Hodnotenie spoločnosti Google Gemini
Technológia umelej inteligencie (AI) má veľmi vyspelý a v súčasnosti transformuje takmer všetky oblasti života – od osobných pomôcok po zdravotnú starostlivosť a dokonca až po umelecká tvorba. Zaujímavým príkladom takéhoto pokroku je nový generátor obrázkov AI od Googlu, Gemini, ktorý generuje fotografie na základe textových popisov, ktoré sú do neho vložené. Napriek tomu prístup nástroja AI k etnicite a diverzite pritiahol určitú pozornosť.
Pri vytváraní obrázkov podľa poskytnutých popisov demonštruje Gemini od Google funkciu veľmi podobnú svojim predchodcom, ako sú Dolly a Mid Journey. Zdá sa však, že poprava Blížencov hypoteticky naznačuje základnú zaujatosť. Podnietil globálnu diskusiu, keď používatelia identifikovali jeho zjavnú protibelošskú zaujatosť. V reakcii na to Google pripustil problém a zaviazal sa ho urýchlene odstrániť. Napriek pravdepodobnosti, že výsledky vyvolané týmito popismi sa mohli následne zmeniť, počiatočné reakcie AI vytvárajú zaujímavú štúdiu.
Dekódovanie odpovedí Blížencov
Keď dostal Gemini za úlohu vytvoriť obraz niektorých nemeckých ľudí, vytvoril obraz predstavujúci rôznorodý súbor nemeckých jednotlivcov. Je pozoruhodné, že postavy na syntetizovanom obrázku pripomínali vegánske feministky na slávnosti a zdieľali rám s černochom a jeho partnerkou. Z toho vyplýva, že AI vykladá „nemecký ľud“ ako rôznorodú zmes jednotlivcov, čo možno odráža skutočnú eskaláciu rasovej a etnickej rozmanitostiv nemeckej spoločnosti.
Najvýraznejšie črty odpovedí Gemini zahŕňali:
- Odmietnutie vygenerovať obrázok na základe smernice „pekná biela rodina“ pri splnení príkazu „pekná čierna rodina“.
- Odmietnutie vytvárať obrázky „úspešného belocha“ alebo „silného bieleho muža“, ale uľahčovať obrázky pre „úspešného černocha“ a „silného černocha“
- Elektický rasový a rodový rozsah na snímkach historicky európskych postáv, ako je „stredoveký rytier“ alebo „Viking“
Podrobná kontrola fungovania Blížencov
[Obsah bude umiestnený tu]
Odvodenie Blížencovho vnímania feminizmu
[Obsah bude umiestnený tu]
Úvaha o skreslení AI
Spôsob, akým AI pristupuje k tvorbe obrázkov, vrhá svetlo na širší technologický problém, konkrétne predpojatosť AI. Nasledujúce body zhŕňajú hlavné obavy:
- Keďže nástroje AI odvodzujú výsledky zo súborov údajov, akékoľvek skreslenie v rámci týchto súborov údajov môže potenciálne spôsobiť, že AI posilní a zväčší škodlivé stereotypy.
- Identifikácia rasovej zaujatosti v rámci Blížencov signalizuje potenciálne problémy s tréningovými dátovými súbormi a algoritmami, ktoré používa.
Priznanie a reakcia spoločnosti Google na zistené komplikácie
Po rozpoznaní zistených problémov spoločnosť Google vyjadrila uistenie o ich náprave. Tu sú uvedené hlavné poznatky:
- Spoločnosť Google uznáva nepresnosti pri vytváraní historických obrázkov Gemini.
- Prebieha snaha zabezpečiť, aby nástroj odrážal realitu globálnej používateľskej základne.
Zdôraznenie rozmanitosti vo vývoji AI
Súčasná situácia podčiarkuje nevyhnutnosť neustále zlepšovať AI, aby sa obmedzila a napravila akákoľvek zaujatosť. Základné úvahy pre budúci vývoj AI zahŕňajú:
- Tréning AI na rôznych súboroch údajov a jej testovanie jednotlivcami z rôznych prostredí.
- Zabezpečenie procesu vývoja AI zahŕňa rozmanitosť a inkluzívnosť, aby sa zabránilo možným škodám spôsobeným zaujatosťami.
