L'IA Gemini de Google trébuche sur la génération d'images et promet une amélioration

Google reconnu des lacunes dans son outil de génération d’images Gemini AI après que la fonctionnalité ait produit des images de personnes inexactes et potentiellement dangereuses. La société a temporairement suspendu la fonctionnalité tout en travaillant sur un correctif. La controverse découle de la tendance de Gemini à créer des images diverses, même lorsque les utilisateurs demandent des personnages ou des scénarios historiques spécifiques. Bien que censé être inclusif, cela a conduit à des résultats historiquement inexacts et parfois offensants.

Dans un article de blog, le vice-président senior Prabhakar Raghavan a expliqué les faux pas et s'est engagé à améliorer la technologie. "Nous ne voulions pas que Gemini refuse de créer des images d'un groupe particulier… [mais] il commettrait des erreurs", a-t-il écrit.

Voici ce qui n'a pas fonctionné avec Google Gemini :

• Le réglage de Google pour garantir que Gemini montre un éventail de personnes n'a pas pris en compte les cas qui devraient clairement pas afficher une plage.
• Au fil du temps, le modèle est devenu beaucoup plus prudent que prévu et a refusé de répondre entièrement à certaines invites – interprétant à tort certaines invites très anodines comme sensibles.
• Ces deux éléments ont conduit le modèle à surcompenser dans certains cas et à être trop conservateur dans d’autres, conduisant à des images embarrassantes et fausses.

Défis de la génération d’images IA :

Cet incident met en évidence le défi permanent consistant à équilibrer la précision et la représentation dans les modèles de génération d’images IA. Les difficultés de Google reflètent des controverses similaires avec d'autres générateurs d'images populaires.