A Google Gemini értékelése
A mesterséges intelligencia (AI) technológia nagyon kiforrott, és jelenleg az élet szinte minden területét átalakítja – a személyes kütyüktől az egészségügyig, sőt a művészeti alkotás. Érdekes példa erre a fejlődésre a Google új mesterséges intelligencia-képgenerátora, a Gemini, amely a bevitt szöveges leírások alapján készít fényképeket. Mindazonáltal az AI eszköz etnikai és sokszínűségi megközelítése felhívta a figyelmet.
A megadott leírások szerinti képek létrehozása során a Google Gemini olyan funkcionalitást mutat be, amely nagyon hasonló előfutáraihoz, mint például a Dolly és a Mid Journey. Mégis, úgy tűnik, hogy Ikrek kivégzése hipotetikusan egy mögöttes elfogultságra utal. Globális diskurzust váltott ki, amikor a felhasználók felismerték a fehérek elleni nyilvánvaló elfogultságot. Válaszul a Google elismerte a problémát, és megígérte, hogy haladéktalanul orvosolja azt. Annak ellenére, hogy valószínű, hogy az e leírások által kiváltott eredmények később megváltoztak, az AI kezdeti válaszai érdekes tanulmányt tesznek lehetővé.
Ikrek válaszainak dekódolása
Amikor azt a feladatot kapták, hogy készítsen képet néhány német emberről, a Gemini készített egy képet, amely német egyének sokszínű együttesét mutatja be. Figyelemre méltó, hogy a szintetizált kép szereplői egy ünnepi vegán feministákra hasonlítottak, akik egy fekete férfival és partnerével osztották meg a keretet. Ebből az a következtetés adódik, hogy a mesterséges intelligencia a „német embereket” egyének válogatott keverékeként értelmezi, ami talán tükrözi a a ténylegesen fokozódó faji és etnikai sokszínűség a német társadalmon belül.
Az Ikrek válaszainak legszembetűnőbb jellemzői a következők voltak:
- A „szép fehér család” direktíva alapján kép létrehozásának megtagadása, miközben megfelel a „szép fekete család” parancsnak.
- A „sikeres fehér ember” vagy „erős fehér ember” képalkotásának megtagadása, de megkönnyíti a „sikeres fekete ember” és az „erős fekete ember” képeit.
- Eklektikus faji és nemi tartomány a történelmi európai alakokról, például „egy középkori lovagról” vagy „vikingről” készült képekben
Az Ikrek működésének részletes vizsgálata
[A tartalom ide kerül]
Az Ikrek feminizmus-felfogásának levezetése
[A tartalom ide kerül]
Az AI torzításáról szóló tanácskozás
Az a mód, ahogyan a mesterséges intelligencia a képalkotáshoz közelít, egy szélesebb technológiai problémára világít rá, nevezetesen: AI elfogultság. A következő pontok foglalják össze a fő szempontokat:
- Mivel a mesterséges intelligencia eszközök adatkészletekből származnak, az ezeken az adatkészleteken belüli torzítások potenciálisan arra késztethetik az AI-t, hogy megerősítse és felnagyítsa a káros sztereotípiákat.
- A faji elfogultság azonosítása a Geminiben potenciális problémákat jelez a képzési adatkészletekkel és az általa alkalmazott algoritmusokkal kapcsolatban.
A Google elismeri az észlelt szövődményeket, és reagál azokra
Az azonosított problémák felismerése után a Google kinyilvánította a biztosítékát, hogy ezeket orvosolja. A főbb elveket az alábbiakban ismertetjük:
- A Google elismeri a Gemini történelmi képalkotásának pontatlanságait.
- Folyamatban van egy erőfeszítés annak biztosítására, hogy az eszköz tükrözze a globális felhasználói bázis valóságát.
A sokszínűség hangsúlyozása a mesterséges intelligencia fejlesztésében
A jelenlegi körülmények rávilágítanak a mesterséges intelligencia folyamatos fejlesztésére az esetleges torzítások korlátozása és orvoslása érdekében. A leendő mesterséges intelligencia fejlesztésének alapvető szempontjai a következők:
- A mesterséges intelligencia oktatása különféle adatkészletekről, és különböző hátterű egyének általi tesztelés.
- A mesterséges intelligencia fejlesztési folyamatának biztosítása magában foglalja a sokféleséget és az inkluzivitást, hogy elkerülje a torzítások miatti esetleges károkat.