Googleov Gemini AI posrnuo na generiranju slika, obećava poboljšanje

Google priznao nedostatke u alatu za generiranje slika Gemini AI nakon što je značajka proizvela netočne i potencijalno štetne slike ljudi. Tvrtka je privremeno obustavila značajku dok radi na popravku. Kontroverza je proizašla iz Geminijeve tendencije da stvara različite slike, čak i kada su korisnici tražili određene povijesne figure ili scenarije. Iako je trebalo biti uključivo, to je dovelo do povijesno netočnih i ponekad uvredljivih rezultata.

U postu na blogu, stariji potpredsjednik Prabhakar Raghavan objasnio je pogrešne korake i obećao poboljšati tehnologiju. “Nismo željeli da Gemini odbije stvoriti slike bilo koje određene skupine... [ali] pogriješit će”, napisao je.

Evo što je pošlo po zlu s Google Geminijem:

• Googleovo podešavanje kako bi se osiguralo da Gemini prikazuje niz ljudi nije uspio objasniti slučajeve koji bi trebali jasno ne pokazati raspon.
• S vremenom je model postao mnogo oprezniji nego što smo namjeravali i odbio je u potpunosti odgovoriti na određene upite — pogrešno tumačeći neke vrlo anodine upite kao osjetljive.
• Ove dvije stvari dovele su do toga da je model u nekim slučajevima pretjerano kompenzirao, a u drugima bio previše konzervativan, što je dovelo do slika koje su bile neugodne i pogrešne.

Izazovi generiranja slike umjetnom inteligencijom:

Ovaj incident naglašava tekući izazov balansiranja točnosti i reprezentacije u modelima generiranja slika umjetnom inteligencijom. Googleove borbe odražavaju slične kontroverze s drugim popularnim generatorima slika.