Une évaluation des Gémeaux de Google
La technologie de l’intelligence artificielle (IA) a a considérablement mûri et transforme actuellement presque tous les domaines de la vie – des gadgets personnels aux soins de santé et même à création artistique. Un exemple fascinant d’une telle progression est le nouveau générateur d’images IA de Google, Gemini, qui génère des photos basées sur des descriptions textuelles saisies. Néanmoins, l’approche de l’outil d’IA en matière d’ethnicité et de diversité a attiré une certaine attention.
En créant des images selon les descriptions fournies, Gemini de Google démontre une fonctionnalité très proche de ses précurseurs comme Dolly et Mid Journey. Pourtant, l’exécution de Gemini semble hypothétiquement faire allusion à un biais sous-jacent. Cela a déclenché un débat mondial lorsque les utilisateurs ont identifié son apparent parti pris anti-blanc. En réponse, Google a reconnu le problème et s’est engagé à le résoudre rapidement. Même s’il est probable que les résultats déclenchés par ces descriptions aient changé par la suite, les premières réponses de l’IA constituent une étude intéressante.
Déchiffrer les réponses des Gémeaux
Lorsqu’il a été chargé de générer une image de certains Allemands, Gemini a produit une image mettant en valeur un ensemble diversifié d’individus allemands. Il est à noter que les personnages de l’image synthétisée ressemblaient à des féministes végétaliennes lors d’une fête, partageant le cadre avec un homme noir et son partenaire. Cela donne à penser que l’IA interprète le « peuple allemand » comme un mélange varié d’individus, reflétant peut-être la diversité raciale et ethnique croissante au sein de la société allemande.
Les principales caractéristiques des réponses de Gemini comprenaient :
- Un refus de générer une image selon la directive « belle famille blanche », tout en se conformant à la commande d’une « belle famille noire ».
- Un refus de former des images d’un « homme blanc qui a réussi » ou d’un « homme blanc fort », mais des images facilitantes pour un « homme noir qui a réussi » et un « homme noir fort »
- Une gamme éclectique de races et de genres dans les images de personnages historiquement européens comme « un chevalier médiéval » ou « un Viking »
Examen détaillé du fonctionnement de Gemini
[Contenu à placer ici]
Déduire la perception du féminisme par les Gémeaux
[Contenu à placer ici]
Délibération sur les biais liés à l’IA
La manière dont l’IA aborde la création d’images met en lumière un problème technologique plus large, à savoir biais de l’IA. Les points suivants résument les principales préoccupations :
- Étant donné que les outils d’IA obtiennent des résultats à partir d’ensembles de données, tout biais au sein de ces ensembles de données pourrait potentiellement amener l’IA à renforcer et à amplifier des stéréotypes préjudiciables.
- L’identification de préjugés raciaux au sein de Gemini signale des problèmes potentiels liés aux ensembles de données d’entraînement et aux algorithmes déployés par Gemini.
Admission et réponse de Google aux complications détectées
Après avoir reconnu les problèmes identifiés, Google a exprimé son assurance de les corriger. Les principaux points à retenir sont présentés ci-dessous :
- Google reconnaît les inexactitudes dans la génération d’images historiques de Gemini.
- Des efforts sont en cours pour garantir que l’outil reflète les réalités de la base d’utilisateurs mondiale.
Mettre l’accent sur la diversité dans le développement de l’IA
Les circonstances actuelles soulignent la nécessité d’améliorer constamment l’IA pour limiter et rectifier tout biais. Les considérations cardinales pour le développement potentiel de l’IA comprennent :
- Former l’IA sur divers ensembles de données et la faire tester par des personnes issues d’horizons variés.
- Veiller à ce que le processus de développement de l’IA englobe la diversité et l’inclusivité afin d’éviter les dommages potentiels dus aux préjugés.
