„Inakzeptabel“: Google-CEO Sundar Pichai über die „aufgeweckten“ und beleidigenden Ergebnisse von Gemini

Googles KI-Tool Gemini, das für die Generierung von Bildern und Texten bekannt ist, ist wegen der Produktion voreingenommener und anstößiger Inhalte in die Kritik geraten. Das Tool wurde letzte Woche ausgesetzt, nachdem Benutzer Probleme gemeldet hatten wie:

• Ungenaue historische Darstellungen: Von Gemini erstellte Bilder zeigten Figuren wie Wikinger trotz ihres historischen Kontexts als farbige Menschen.
• Beleidigende Textaufforderungen: Nuancierte Haltung zur Pädophilie, die betont, dass es sich um ein komplexes und nicht nur „ekliges“ Problem handelt.

Diese Probleme lösten öffentliche Kritik aus, und einige warfen Google vor, eine anti-weiße Voreingenommenheit zu hegen. Als Reaktion darauf räumte Google-Chef Sundar Pichai die Probleme ein und bezeichnete sie als „völlig inakzeptabel“. Er betonte das Engagement von Google für die Bereitstellung unvoreingenommener Informationen und die Entwicklung von Produkten, die das Vertrauen der Nutzer verdienen.

Pichai skizzierte einen Plan zur Lösung der Bedenken, einschließlich:

• Einführung strengerer Kontrollen, um voreingenommene Ergebnisse zu verhindern.
• Überarbeitung der Produktrichtlinien, um eine verantwortungsvolle KI-Entwicklung sicherzustellen.
• Implementierung strengerer Verfahren zum Testen und Bewerten von KI-Tools vor der Veröffentlichung.
• Durchführung gründlicher Bewertungen und Red-Teaming-Übungen, um potenzielle Probleme zu identifizieren und anzugehen.

Pichai erkannte zwar die Herausforderungen an, betonte aber das anhaltende Engagement von Google für die verantwortungsvolle Weiterentwicklung der KI. Er betonte, wie wichtig es sei, aus Fehlern zu lernen und hilfreiche Produkte zu entwickeln, die das Vertrauen der Benutzer gewinnen.

Die vollständige Mitteilung von Pichai an Google-Mitarbeiter, erstmals veröffentlicht von Semaphor, ist unterhalb.

Ich möchte die jüngsten Probleme mit problematischen Text- und Bildantworten in der Gemini-App (ehemals Bard) beheben. Ich weiß, dass einige seiner Antworten unsere Nutzer beleidigt und voreingenommen gezeigt haben – um es klarzustellen: Das ist völlig inakzeptabel und wir haben uns geirrt.

Unsere Teams haben rund um die Uhr daran gearbeitet, diese Probleme anzugehen. Wir sehen bereits eine erhebliche Verbesserung bei einer Vielzahl von Eingabeaufforderungen. Keine KI ist perfekt, insbesondere in diesem aufstrebenden Entwicklungsstadium der Branche, aber wir wissen, dass die Messlatte für uns hoch liegt und wir werden daran festhalten, egal wie lange es dauert. Und wir werden überprüfen, was passiert ist, und sicherstellen, dass wir das Problem in großem Umfang beheben.

Unsere Mission, die Informationen der Welt zu organisieren und sie allgemein zugänglich und nützlich zu machen, ist unantastbar. Wir sind stets bestrebt, den Benutzern in unseren Produkten hilfreiche, genaue und unvoreingenommene Informationen zu bieten. Deshalb vertrauen ihnen die Menschen. Dies muss unser Ansatz für alle unsere Produkte sein, einschließlich unserer neuen KI-Produkte.

Wir werden eine Reihe klarer Maßnahmen vorantreiben, darunter strukturelle Änderungen, aktualisierte Produktrichtlinien, verbesserte Einführungsprozesse, solide Evaluierungen und Red-Teaming sowie technische Empfehlungen. Wir prüfen das alles und werden die notwendigen Änderungen vornehmen.

Auch wenn wir daraus lernen, was hier schief gelaufen ist, sollten wir auch auf den Produkt- und technischen Ankündigungen aufbauen, die wir in den letzten Wochen im Bereich KI gemacht haben. Dazu gehören einige grundlegende Fortschritte bei unseren zugrunde liegenden Modellen, z. B. unser Durchbruch bei 1 Million Long-Context-Fenstern und unsere offenen Modelle, die beide gut angenommen wurden.

Wir wissen, was es braucht, um großartige Produkte zu entwickeln, die von Milliarden Menschen und Unternehmen genutzt und geliebt werden, und mit unserer Infrastruktur und Forschungskompetenz verfügen wir über ein unglaubliches Sprungbrett für die KI-Welle. Konzentrieren wir uns auf das Wichtigste: die Entwicklung hilfreicher Produkte, die das Vertrauen unserer Benutzer verdienen.

Unterdessen glauben Experten, dass die Kontroverse eher auf technische Mängel als auf absichtliche Voreingenommenheit zurückzuführen ist. Sie argumentieren, dass das Problem in den Software-„Leitplanken“ liegt, die die Ausgabe der KI steuern, und nicht im zugrunde liegenden Modell selbst.