L'intelligenza artificiale Gemini di Google inciampa nella generazione di immagini e nel miglioramento dei voti
2 minuto. leggere
Edizione del
Leggi la nostra pagina informativa per scoprire come puoi aiutare MSPoweruser a sostenere il team editoriale Per saperne di più
Note chiave
- I risultati di immagini controversi evidenziano le sfide nel bilanciare accuratezza e diversità per modelli linguistici di grandi dimensioni.
Google riconosciuto carenze nel suo strumento di generazione di immagini Gemini AI dopo che la funzione ha prodotto immagini di persone imprecise e potenzialmente dannose. L'azienda ha temporaneamente sospeso la funzionalità mentre lavorava a una soluzione. La controversia derivava dalla tendenza di Gemini a creare immagini diverse, anche quando gli utenti richiedevano personaggi storici o scenari specifici. Sebbene fosse concepito per essere inclusivo, ciò ha portato a risultati storicamente imprecisi e talvolta offensivi.
In un post sul blog, il vicepresidente senior Prabhakar Raghavan ha spiegato i passi falsi e ha promesso di migliorare la tecnologia. "Non volevamo che i Gemelli si rifiutassero di creare immagini di un gruppo particolare... [ma] commetteranno errori", ha scritto.
Ecco cosa è andato storto con Google Gemini:
- L'ottimizzazione di Google per garantire che Gemini mostri che una serie di persone non riesce a tenere conto dei casi che dovrebbero chiaramente non mostra un intervallo.
- Nel corso del tempo, il modello è diventato molto più cauto di quanto intendessimo e si è rifiutato di rispondere completamente a determinati suggerimenti, interpretando erroneamente alcuni suggerimenti molto anodini come sensibili.
- Questi due fattori hanno portato il modello a compensare eccessivamente in alcuni casi e a essere eccessivamente conservatore in altri, portando a immagini imbarazzanti e sbagliate.
Sfide della generazione di immagini AI:
Questo incidente evidenzia la sfida continua nel bilanciare accuratezza e rappresentazione nei modelli di generazione di immagini AI. Le lotte di Google rispecchiano controversie simili con altri generatori di immagini popolari.