"Neprihvatljivo": CEO Googlea Sundar Pichai o Geminijevim 'probuđenim' i uvredljivim rezultatima

Googleov AI alat Gemini, poznat po generiranju slika i teksta, našao se na meti kritika zbog proizvodnje pristranog i uvredljivog sadržaja. Alat je suspendiran prošli tjedan nakon što su korisnici prijavili probleme kao što su:

• Netočni povijesni prikazi: Slike koje je generirao Gemini prikazivale su figure poput Vikinga kao obojene ljude unatoč njihovom povijesnom kontekstu.
• Uvredljive tekstualne upute: Iznijansirano stajalište o pedofiliji, naglašavajući je kao složeno pitanje, a ne jednostavno "gnusno".

Ovi problemi izazvali su javne kritike, a neki su optužili Google da gaji antibijelačku pristranost. Kao odgovor, izvršni direktor Googlea Sundar Pichai priznao je probleme i nazvao ih "potpuno neprihvatljivima". Naglasio je Googleovu predanost pružanju nepristranih informacija i izgradnji proizvoda koji zaslužuju povjerenje korisnika.

Pichai je iznio plan za rješavanje zabrinutosti, uključujući:

• Provedba strožih kontrola kako bi se spriječili pristrani rezultati.
• Revidiranje smjernica za proizvode kako bi se osigurao odgovoran razvoj umjetne inteligencije.
• Provedba strožih postupaka za testiranje i procjenu AI alata prije javne objave.
• Provođenje temeljitih evaluacija i vježbi crvenog timiranja za prepoznavanje i rješavanje potencijalnih problema.

Premda je priznao izazove, Pichai je naglasio Googleovu stalnu predanost odgovornom unaprjeđenju umjetne inteligencije. Istaknuo je važnost učenja na pogreškama i izgradnje korisnih proizvoda koji stječu povjerenje korisnika.

Cijela bilješka Pichaija zaposlenicima Googlea, koju je prvi objavio semafor, nalazi se u nastavku.

Želim se pozabaviti nedavnim problemima s problematičnim odgovorima na tekst i slike u aplikaciji Gemini (bivši Bard). Znam da su neki od njegovih odgovora uvrijedili naše korisnike i pokazali pristranost – da budemo jasni, to je potpuno neprihvatljivo i pogrešno smo shvatili.

Naši timovi rade danonoćno na rješavanju ovih problema. Već vidimo značajno poboljšanje u širokom rasponu upita. Niti jedna umjetna inteligencija nije savršena, osobito u ovoj fazi razvoja industrije u nastajanju, ali znamo da je letvica za nas visoka i držat ćemo je koliko god dugo bude potrebno. Pregledat ćemo što se dogodilo i pobrinuti se da to popravimo u velikom broju.

Naša misija da organiziramo svjetske informacije i učinimo ih univerzalno dostupnima i korisnima je svetinja. Uvijek smo nastojali korisnicima pružiti korisne, točne i nepristrane informacije u našim proizvodima. Zato im ljudi vjeruju. To mora biti naš pristup za sve naše proizvode, uključujući naše nove proizvode umjetne inteligencije.

Pokrenut ćemo jasan skup radnji, uključujući strukturne promjene, ažurirane smjernice za proizvode, poboljšane procese pokretanja, robusne procjene i red-teaming te tehničke preporuke. Promatramo sve ovo i napravit ćemo potrebne promjene.

Čak i dok učimo iz onoga što je ovdje pošlo po zlu, također bismo trebali graditi na proizvodima i tehničkim najavama koje smo dali u AI-ju tijekom posljednjih nekoliko tjedana. To uključuje neke temeljne napretke u našim temeljnim modelima, npr. naš proboj u prozoru dugog konteksta od 1 milijuna i naše otvorene modele, koji su oba dobro primljena.

Znamo što je potrebno za stvaranje sjajnih proizvoda koje koriste i vole milijarde ljudi i tvrtki, a uz našu infrastrukturu i stručnost u istraživanju imamo nevjerojatnu odskočnu dasku za val umjetne inteligencije. Usredotočimo se na ono što je najvažnije: stvaranje korisnih proizvoda koji zaslužuju povjerenje naših korisnika.

U međuvremenu, stručnjaci vjeruju da kontroverza proizlazi iz tehničkih nedostataka, a ne iz namjerne pristranosti. Tvrde da problem leži u softverskim "ogradama" koje kontroliraju izlaz umjetne inteligencije, a ne u samom temeljnom modelu.