Google Gemini suspend la génération d'images d'humains jusqu'à ce qu'il commence à produire des humains blancs

Google a temporairement suspendu la capacité de son outil d'IA, Gemini, à générer des images de personnes. Cette décision fait suite à des rapports faisant état d'inexactitudes dans les représentations historiques produites par l'outil.

Les utilisateurs demandant des images de personnages historiques, tels que les Pères Fondateurs, ont obtenu des résultats qui ne reflétaient pas les origines ethniques communément connues de ces individus. Cette divergence a conduit à de la confusion et à des discussions en ligne concernant le résultat de l'outil.

C'est ce que Google tweeté.

En réponse, Google a publié une déclaration reconnaissant le problème et annonçant une pause dans la génération d'images des personnes pendant qu'ils répondent aux préoccupations.

"Nous travaillons activement à l'amélioration de la fonctionnalité de génération d'images de Gemini", a déclaré Google. « Pour faciliter ce processus, nous suspendons temporairement la génération d’images de personnes. Nous prévoyons de rééditer une version améliorée dans un avenir proche.

Cette action fait suite aux excuses de Google présentées hier pour les représentations historiques inexactes générées par Gemini. La société a lancé la fonctionnalité de génération d’images plus tôt ce mois-ci, rejoignant ainsi les offres similaires d’autres sociétés de développement d’IA. Nous avons rédigé un article entier montrant comment Google s'est montré réveillé.

Google reste déterminé à résoudre les problèmes identifiés et prévoit de publier prochainement une version améliorée de l'outil. La pause actuelle s'applique uniquement à la génération d'images de personnes, les autres fonctionnalités de Gemini restant opérationnelles.

Cet incident souligne les efforts en cours pour affiner et remédier aux biais potentiels du développement de l’IA, en particulier en ce qui concerne l’exactitude historique et la représentation responsable.