«Uakseptabelt»: Google-sjef Sundar Pichai om Geminis «våkne» og støtende utspill

Googles AI-verktøy Gemini, kjent for å generere bilder og tekst, har kommet under ild for å produsere partisk og støtende innhold. Verktøyet ble suspendert forrige uke etter at brukere rapporterte problemer som:

• Unøyaktige historiske skildringer: Bilder generert av Tvillingene viste skikkelser som vikinger som farger til tross for deres historiske kontekst.
• Støtende tekstmeldinger: Nyansert holdning til pedofili, som understreker det som et komplekst problem i stedet for bare "grovt".

Disse problemene utløste offentlig kritikk, og noen anklaget Google for å ha en anti-hvite partiskhet. Som svar erkjente Google-sjef Sundar Pichai problemene og kalte dem «fullstendig uakseptable». Han la vekt på Googles forpliktelse til å gi objektiv informasjon og bygge produkter som fortjener brukertillit.

Pichai skisserte en plan for å møte bekymringene, inkludert:

• Implementere strengere kontroller for å forhindre partiske utganger.
• Revidere produktretningslinjer for å sikre ansvarlig AI-utvikling.
• Implementering av strengere prosedyrer for testing og evaluering av AI-verktøy før offentlig utgivelse.
• Gjennomføre grundige evalueringer og red-team-øvelser for å identifisere og adressere potensielle problemer.

Mens han erkjente utfordringene, understreket Pichai Googles fortsatte forpliktelse til å fremme AI på en ansvarlig måte. Han understreket viktigheten av å lære av feil og bygge nyttige produkter som tjener brukernes tillit.

Hele notatet fra Pichai til Google-ansatte, først rapportert av semafor, er under.

Jeg ønsker å ta opp de siste problemene med problematiske tekst- og bildesvar i Gemini-appen (tidligere Bard). Jeg vet at noen av svarene har fornærmet brukerne våre og vist partiskhet – for å være tydelig, det er helt uakseptabelt, og vi tok feil.

Teamene våre har jobbet døgnet rundt for å løse disse problemene. Vi ser allerede en betydelig forbedring på et bredt spekter av forespørsler. Ingen AI er perfekt, spesielt på dette nye stadiet av bransjens utvikling, men vi vet at baren er høy for oss, og vi vil fortsette med det så lenge det tar. Og vi vil gjennomgå hva som skjedde og sørge for at vi fikser det i stor skala.

Vårt oppdrag om å organisere verdens informasjon og gjøre den universelt tilgjengelig og nyttig er hellig. Vi har alltid forsøkt å gi brukerne nyttig, nøyaktig og objektiv informasjon i produktene våre. Det er derfor folk stoler på dem. Dette må være vår tilnærming for alle produktene våre, inkludert våre nye AI-produkter.

Vi vil kjøre et klart sett med handlinger, inkludert strukturelle endringer, oppdaterte produktretningslinjer, forbedrede lanseringsprosesser, robuste evalueringer og red-teaming, og tekniske anbefalinger. Vi ser på alt dette og vil gjøre de nødvendige endringene.

Selv om vi lærer av hva som gikk galt her, bør vi også bygge på produkt- og tekniske kunngjøringer vi har gjort i AI de siste ukene. Det inkluderer noen grunnleggende fremskritt i våre underliggende modeller, f.eks. gjennombruddet vårt med 1 million lang kontekst og våre åpne modeller, som begge har blitt godt mottatt.

Vi vet hva som skal til for å lage flotte produkter som brukes og elskes av milliarder av mennesker og bedrifter, og med vår infrastruktur og forskningsekspertise har vi et utrolig springbrett for AI-bølgen. La oss fokusere på det som betyr mest: å bygge nyttige produkter som fortjener brukernes tillit.

I mellomtiden mener eksperter at kontroversen stammer fra tekniske mangler snarere enn bevisst skjevhet. De hevder at problemet ligger i programvarens "rekkverk" som kontrollerer AI-ens utgang, ikke selve den underliggende modellen.