Google's Gemini AI struikelt over het genereren van afbeeldingen en belooft verbetering

Kopen Google Reviews erkend tekortkomingen in de Gemini AI-tool voor het genereren van afbeeldingen nadat de functie onnauwkeurige en potentieel schadelijke beelden van mensen produceerde. Het bedrijf heeft de functie tijdelijk opgeschort terwijl er aan een oplossing werd gewerkt. De controverse kwam voort uit de neiging van Gemini om diverse beelden te creëren, zelfs als gebruikers om specifieke historische figuren of scenario's vroegen. Hoewel het bedoeld was om inclusief te zijn, leidde dit tot historisch onnauwkeurige en soms aanstootgevende resultaten.

In een blogpost legde senior vice-president Prabhakar Raghavan de misstappen uit en beloofde hij de technologie te verbeteren. “We wilden niet dat Gemini zou weigeren afbeeldingen te maken van een bepaalde groep… [maar] het zal fouten maken”, schreef hij.

Dit is wat er mis ging met Google Gemini:

• De afstemming van Google om ervoor te zorgen dat Gemini liet zien dat een reeks mensen geen rekening hielden met gevallen die duidelijk zouden moeten zijn niet een bereik tonen.
• In de loop van de tijd werd het model veel voorzichtiger dan we van plan waren en weigerde het om bepaalde aanwijzingen volledig te beantwoorden – waarbij sommige zeer anonieme aanwijzingen ten onrechte als gevoelig werden geïnterpreteerd.
• Deze twee zaken leidden ertoe dat het model in sommige gevallen overcompenseerde en in andere gevallen overconservatief was, wat leidde tot beelden die beschamend en verkeerd waren.

Uitdagingen bij het genereren van AI-beelden:

Dit incident benadrukt de voortdurende uitdaging van het balanceren van nauwkeurigheid en representatie in modellen voor het genereren van AI-beelden. De problemen van Google weerspiegelen soortgelijke controverses met andere populaire beeldgeneratoren.