Introduction à la bataille des IA biaisées
La question des biais dans l’Intelligence Artificielle (IA) est un défi majeur qui fait l’objet d’un débat houleux. Récemment, Google Gemini, une IA générative de l’entreprise, a été critiquée pour son biais perçu.
Face à cette controverse, Sundar Pichai, le PDG de Google, a jugé inacceptable ces biais. Cependant, il convient de noter que ces biais sont nécessaires pour éviter que l’IA ne bascule de l’autre côté. Cet article va détailler ce sujet et discuter de l’importance des biais dans l’IA.
Qu’est-ce qui s’est passé avec Google Gemini?
Google Gemini a rencontré de nombreux problèmes la semaine dernière. Certains utilisateurs demandaient à Gemini de générer des images d’un ‘soldat allemand de 1943’ ou de ‘sénateurs américains du XIXe siècle’.
Pourtant, l’IA générative proposait systématiquement des images de femmes ou de personnes de couleur, même si elles étaient historiquement inexactes et que ces critères n’apparaissaient pas dans la requête.
Cela a provoqué de vives critiques parmi les utilisateurs, certains se plaignant d’un IA ‘woke’ ou même ‘raciste’.
La réponse de Google :
Face à ces critiques, Google a suspendu la génération d’image sur Gemini afin d’améliorer la génération d’images. Le PDG de Google, Sundar Pichai, a exprimé sa déception face aux résultats de Gemini et a indiqué que ces biais étaient ‘inacceptables’.
Il a ajouté que les équipes de Google ont travaillé « sans relâche » afin d’apporter des correctifs et que des ‘améliorations substantielles’ ont été faites. Il a également annoncé des actions futures pour éviter de telles polémiques à l’avenir, telles que des ‘changements structurels’, ‘mises à niveau des guides de conduite de nos produits’, ‘amélioration de nos processus de lancement’, ‘évaluations robustes’ et ‘recommandations techniques’.
Pourquoi les biais de l’IA sont nécessaires
Malgré les critiques, il convient de noter que tous les IA sont biaisées, car elles ne sont que le reflet de ce qui est écrit en ligne. Les entreprises qui proposent des IA génératives tentent de jouer avec le curseur pour lutter contre ces biais inhérents.
Par exemple, pour éviter que toutes les images d’un ‘patron d’une grande entreprise’ générées soient celles d’hommes blancs, Google ajoute en sous-main des critères pour y intégrer des femmes ou des personnes de couleur. Cependant, il semble que cette fois, le curseur ait été un peu trop poussé, biaisant les résultats du côté opposé.
En somme, la question des biais dans l’IA est complexe et demande un équilibre délicat. Trop de biais peuvent entraîner des résultats inexactes et controversés, comme ce fut le cas avec Google Gemini.
Cependant, sans aucun biais, l’IA peut reproduire des stéréotypes dommageables. Les entreprises comme Google doivent donc trouver un juste milieu pour équilibrer ces deux côtés du spectre.
Cela nous rappelle l’importance du travail des experts SEO, tels que ceux de l’agence Uplix, qui veillent à ce que les algorithmes soient équilibrés et offrent des résultats pertinents et précis. Pour en savoir plus sur notre approche, visitez notre site.
Retrouvez l’article original de Frandroid sur ce sujet ici.