Gemini AI de la Google se împiedică de generarea de imagini, jură îmbunătățiri

Google recunoscut deficiențe în instrumentul său de generare de imagini Gemini AI, după ce caracteristica a produs imagini inexacte și potențial dăunătoare ale oamenilor. Compania a suspendat temporar funcția în timp ce lucra la o remediere. Controversa a izvorât din tendința Gemeni de a crea imagini diverse, chiar și atunci când utilizatorii au solicitat figuri istorice sau scenarii specifice. Deși menit să fie incluziv, acest lucru a condus la rezultate inexacte din punct de vedere istoric și uneori ofensive.

Într-o postare pe blog, vicepreședintele senior Prabhakar Raghavan a explicat pașii greșiți și a promis că va îmbunătăți tehnologia. „Nu am vrut ca Gemenii să refuze să creeze imagini ale unui anumit grup… [dar] va face greșeli”, a scris el.

Iată ce a mers prost cu Google Gemini:

• Reglarea Google pentru a se asigura că Gemenii a arătat că o serie de oameni nu au reușit să țină seama de cazurile care ar trebui în mod clar nu arata o gama.
• De-a lungul timpului, modelul a devenit mult mai precaut decât ne-am propus și a refuzat să răspundă în întregime la anumite solicitări – interpretând greșit unele solicitări foarte anodine ca fiind sensibile.
• Aceste două lucruri au determinat modelul să compenseze excesiv în unele cazuri și să fie prea conservator în altele, ceea ce duce la imagini jenante și greșite.

Provocări ale generării imaginilor AI:

Acest incident evidențiază provocarea continuă de a echilibra acuratețea și reprezentarea în modelele de generare de imagini AI. Luptele Google reflectă controverse similare cu alți generatori de imagini populare.