"Oacceptabelt": Googles vd Sundar Pichai om Geminis "vakna" och offensiva utspel

Googles AI-verktyg Gemini, känt för att generera bilder och text, har hamnat under eld för att producera partiskt och stötande innehåll. Verktyget stängdes av förra veckan efter att användare rapporterat problem som:

• Felaktiga historiska skildringar: Bilder genererade av Tvillingarna visade figurer som vikingar som färgade personer trots deras historiska sammanhang.
• Stötande textmeddelanden: Nyanserad ståndpunkt om pedofili, som betonar det som en komplex fråga snarare än bara "grov".

Dessa frågor väckte offentlig kritik, och vissa anklagade Google för att hysa en anti-vit partiskhet. Som svar erkände Googles vd Sundar Pichai problemen och kallade dem "fullständigt oacceptabla." Han betonade Googles engagemang för att tillhandahålla opartisk information och bygga produkter som förtjänar användarnas förtroende.

Pichai beskrev en plan för att ta itu med problemen, inklusive:

• Genomförande av striktare kontroller för att förhindra partiska utdata.
• Revidera produktriktlinjer för att säkerställa ansvarsfull AI-utveckling.
• Implementera strängare procedurer för att testa och utvärdera AI-verktyg innan offentlig utgivning.
• Genomföra grundliga utvärderingar och red-teamingövningar för att identifiera och ta itu med potentiella problem.

Medan han erkände utmaningarna, betonade Pichai Googles fortsatta engagemang för att utveckla AI på ett ansvarsfullt sätt. Han underströk vikten av att lära sig av misstag och bygga användbara produkter som tjänar användarnas förtroende.

Hela meddelandet från Pichai till Googles anställda, först rapporterat av semafor, är under.

Jag vill ta itu med de senaste problemen med problematiska text- och bildsvar i Gemini-appen (tidigare Bard). Jag vet att en del av dess svar har förolämpat våra användare och visat partiskhet – för att vara tydlig, det är helt oacceptabelt och vi har fel.

Våra team har arbetat dygnet runt för att ta itu med dessa problem. Vi ser redan en avsevärd förbättring av ett brett utbud av meddelanden. Ingen AI är perfekt, särskilt i detta framväxande skede av branschens utveckling, men vi vet att ribban är hög för oss och vi kommer att fortsätta med det hur länge det tar. Och vi kommer att granska vad som hände och se till att vi fixar det i stor skala.

Vårt uppdrag att organisera världens information och göra den allmänt tillgänglig och användbar är helig. Vi har alltid försökt att ge användarna användbar, korrekt och opartisk information i våra produkter. Det är därför folk litar på dem. Detta måste vara vårt tillvägagångssätt för alla våra produkter, inklusive våra nya AI-produkter.

Vi kommer att driva en tydlig uppsättning åtgärder, inklusive strukturella förändringar, uppdaterade produktriktlinjer, förbättrade lanseringsprocesser, robusta evaler och red-teaming samt tekniska rekommendationer. Vi tittar på allt detta och kommer att göra de nödvändiga förändringarna.

Även när vi lär oss av vad som gick fel här, bör vi också bygga på de produkt- och tekniska tillkännagivanden vi har gjort i AI under de senaste veckorna. Det inkluderar några grundläggande framsteg i våra underliggande modeller, t.ex. vårt genombrott på 1 miljon långa sammanhang och våra öppna modeller, som båda har mottagits väl.

Vi vet vad som krävs för att skapa fantastiska produkter som används och älskas av miljarder människor och företag, och med vår infrastruktur och forskningsexpertis har vi en otrolig språngbräda för AI-vågen. Låt oss fokusera på det som är viktigast: att bygga användbara produkter som förtjänar våra användares förtroende.

Samtidigt tror experter att kontroversen härrör från tekniska brister snarare än avsiktlig partiskhet. De hävdar att problemet ligger i mjukvarans "skyddsräcken" som styr AI:s produktion, inte den underliggande modellen i sig.