Googles Gemini-KI stolpert über die Bilderzeugung und verspricht Verbesserung

Google anerkannt Mängel in seinem Gemini AI-Bilderzeugungstool, nachdem die Funktion ungenaue und potenziell schädliche Bilder von Menschen erzeugte. Das Unternehmen hat die Funktion vorübergehend ausgesetzt, während an einer Lösung gearbeitet wird. Die Kontroverse resultierte aus der Tendenz von Gemini, vielfältige Bilder zu erstellen, selbst wenn Benutzer nach bestimmten historischen Figuren oder Szenarien fragten. Obwohl dies umfassend sein sollte, führte dies zu historisch ungenauen und manchmal anstößigen Ergebnissen.

In einem Blogbeitrag erläuterte Senior Vice President Prabhakar Raghavan die Fehltritte und versprach, die Technologie zu verbessern. „Wir wollten nicht, dass Gemini sich weigert, Bilder einer bestimmten Gruppe zu erstellen … [aber] es wird Fehler machen“, schrieb er.

Folgendes ist bei Google Gemini schief gelaufen:

• Die Optimierung von Google, um sicherzustellen, dass Gemini eine Reihe von Personen anzeigt, hat die Fälle, in denen dies eindeutig der Fall sein sollte, nicht berücksichtigt nicht einen Bereich anzeigen.
• Mit der Zeit wurde das Modell viel vorsichtiger, als wir beabsichtigt hatten, und weigerte sich, auf bestimmte Eingabeaufforderungen vollständig zu antworten – und interpretierte einige sehr harmlose Eingabeaufforderungen fälschlicherweise als sensibel.
• Diese beiden Dinge führten dazu, dass das Modell in einigen Fällen überkompensierte und in anderen zu konservativ war, was zu peinlichen und falschen Bildern führte.

Herausforderungen der KI-Bilderzeugung:

Dieser Vorfall verdeutlicht die anhaltende Herausforderung, Genauigkeit und Darstellung in KI-Bilderzeugungsmodellen in Einklang zu bringen. Die Probleme von Google spiegeln ähnliche Kontroversen mit anderen beliebten Bildgeneratoren wider.