L'IA Gemini de Google trébuche sur la génération d'images et promet une amélioration
2 minute. lis
Publié le
Partagez cet article
Améliorer ce guide
Lisez notre page de divulgation pour savoir comment vous pouvez aider MSPoweruser à soutenir l'équipe éditoriale En savoir plus
Notes clés
- Les résultats d’images controversés mettent en évidence les défis liés à l’équilibre entre précision et diversité pour les grands modèles linguistiques.
Google reconnu des lacunes dans son outil de génération d’images Gemini AI après que la fonctionnalité ait produit des images de personnes inexactes et potentiellement dangereuses. La société a temporairement suspendu cette fonctionnalité pendant qu'elle travaillait sur un correctif. La controverse provenait de la tendance de Gemini à créer des images diverses, même lorsque les utilisateurs demandaient des personnages ou des scénarios historiques spécifiques. Bien que censé être inclusif, cela a conduit à des résultats historiquement inexacts et parfois offensants.
Dans un article de blog, le vice-président senior Prabhakar Raghavan a expliqué les faux pas et s'est engagé à améliorer la technologie. "Nous ne voulions pas que Gemini refuse de créer des images d'un groupe particulier… [mais] il commettrait des erreurs", a-t-il écrit.
Voici ce qui n'a pas fonctionné avec Google Gemini :
- Le réglage de Google pour garantir que Gemini montre un éventail de personnes n'a pas pris en compte les cas qui devraient clairement ne sauraient afficher une plage.
- Au fil du temps, le modèle est devenu beaucoup plus prudent que prévu et a refusé de répondre entièrement à certaines invites – interprétant à tort certaines invites très anodines comme sensibles.
- Ces deux éléments ont conduit le modèle à surcompenser dans certains cas et à être trop conservateur dans d’autres, conduisant à des images embarrassantes et fausses.
Défis de la génération d’images IA :
Cet incident met en évidence le défi permanent consistant à équilibrer la précision et la représentation dans les modèles de génération d’images IA. Les difficultés de Google reflètent des controverses similaires avec d'autres générateurs d'images populaires.
