Aké odchýlky sú prítomné v generátoroch obrázkov AI?
Generátory obrázkov AI začleňujú do svojich obrázkov množstvo predsudkov. Držia sa vzorov, ktoré rozpoznávajú a replikujú ich, aj keď tieto vzorce zahŕňajú stereotypy alebo iné formy predsudkov. Napríklad generátor vyškolený na súboroch údajov, ktoré často zobrazujú ženy v domácich podmienkach, sa môže naučiť vytvárať obrázky, ktoré spájajú ženy predovšetkým s domácimi prácami. Tieto odchýlky sú odrazom údajov, na ktorých boli trénovaní, a algoritmov použitých na interpretáciu týchto údajov.
Prečo je pochopenie skreslenia AI nevyhnutné?
Ako vývojár AI, výskumník, dátový vedec alebo technický novinár je pochopenie týchto predsudkov kľúčové z niekoľkých dôvodov. Mohlo by to viesť k zlepšeniu súčasných systémov, keďže pracujete na tom, aby boli tréningové údaje vašej AI rôznorodé a reprezentatívne. Bez pochopenia týchto predsudkov je nemožné ich napraviť. Okrem tejto praktickej aplikácie môže lepšie pochopenie tejto technológie slúžiť na podporu etického rozvoja AI. Navyše, pre tých, ktorí píšu o technológii, môžu tieto znalosti viesť k produkcii informovanejších článkov.
Môžu prípadové štúdie ilustrovať skreslenie AI?
Pozoruhodnou prípadovou štúdiou, ktorá demonštruje túto zaujatosť – a dôležitosť jej pochopenia – je ImageNet. Aj keď je to veľmi dôležité pre vývoj strojového učenia, prichádza s predsudkami. Po preskúmaní výskumníci našli sexistické a rasistické označenia v anotáciách obrázkov. Odhalením týchto problémov so zaujatosťou výskumníci urobili pokroky v ich náprave.
Existujú vzdelávacie zdroje pre AI zaujatosť?
Aby sme vám pomohli hlbšie preskúmať zaujatosť v generátoroch obrázkov AI, k dispozícii je niekoľko online nástrojov a zdrojov.
Programovacie nástroje AI: OpenAI ponúka sadu výkonných nástrojov AI na rôznych cenových modeloch. Ponúkajú rozhrania API, ktoré vám poskytujú podrobnú kontrolu nad vašou AI a umožňujú vám skúmať, ako spracováva vstupy, aby vytvárala výstupy, a potenciálne identifikovať predsudky v hre. Používanie tohto nástroja si však vyžaduje slušné pochopenie kódovania a AI.
Algoritmy generovania obrázkov: Generatívne adverzné siete (GAN) sú široko používané na generovanie obrázkov. Sú k dispozícii zadarmo na GitHub tu. Aby ste však naplno využili ich potenciál, budete musieť pochopiť celý komplex matematika za nimi, čo môže byť pre niekoho podvod.
Odborné fóra alebo komunity: Fóra ako AI Stack Exchange ponúkajú cenné informácie o AI a predpojatosti zadarmo. Pamätajte však, že diskusie na týchto platformách môžu občas viesť k dezinformáciám v dôsledku nedostatku odborných znalostí alebo kontrol dôveryhodnosti.
Napokon, k niekoľkým zaujatým článkom a blogom zameraným na AI sa dá ľahko pristupovať pomocou rýchleho vyhľadávania Google.
Aká je budúcnosť AI a zaujatosti?
Keď sa pozrieme na 10 rokov dopredu, môžeme očakávať značné pokroky v AI – a dúfajme, že aj pokroky v našom zvládaní predsudkov v nej.
Ako správne uviedol Ruchir Puri, hlavný vedecký pracovník výskumu IBM, „Potrebujeme systémy AI, ktoré začínajú z neutrálneho hľadiska.“ Technológovia budú pokračovať v práci na zlepšení rozmanitosti a presnosti tréningových údajov a algoritmov používaných v AI, čím sa potenciálne znížia aktuálne existujúce predsudky.
Navyše, s nárastom predpisov a etiky AI sa nástroje na identifikáciu a riešenie zaujatosti budú naďalej inovovať a vyvíjať. Väčšie povedomie verejnosti a politický tlak by tiež mohli podnietiť technologické spoločnosti, aby dôkladnejšie preskúmali svoju AI, čím by sa výrazne znížil rozsah zaujatosti.
Zatiaľ čo cesta k nezaujatej AI je dlhá, pochopením a riešením zaujatosti v generátoroch obrázkov AI sa posúvame o krok bližšie k tomuto cieľu.
