„Nepřijatelné“: CEO společnosti Google Sundar Pichai o „probuzených“ a útočných výstupech Gemini

Nástroj AI Gemini od Googlu, známý pro generování obrázků a textu, se dostal pod palbu kvůli produkci neobjektivního a urážlivého obsahu. Tento nástroj byl minulý týden pozastaven poté, co uživatelé nahlásili problémy, jako jsou:

• Nepřesná historická vyobrazení: Obrázky vytvořené Blíženci ukazovaly postavy jako Vikingové jako barevné lidi navzdory jejich historickému kontextu.
• Urážlivé textové výzvy: Jemný postoj k pedofilii, zdůrazňující ji spíše jako komplexní problém než jednoduše „hrubý“.

Tyto problémy vyvolaly veřejnou kritiku a někteří obvinili Google z protibělošské zaujatosti. V reakci na to generální ředitel Google Sundar Pichai uznal problémy a označil je za „zcela nepřijatelné“. Zdůraznil závazek společnosti Google poskytovat nezaujaté informace a vytvářet produkty, které si zaslouží důvěru uživatelů.

Pichai nastínil plán, jak tyto obavy řešit, včetně:

• Zavádění přísnějších kontrol, aby se zabránilo zkresleným výstupům.
• Revize pokynů k produktu, aby byl zajištěn odpovědný vývoj AI.
• Implementace přísnějších postupů pro testování a hodnocení nástrojů umělé inteligence před zveřejněním.
• Provádění důkladných hodnocení a cvičení red-teamingu k identifikaci a řešení potenciálních problémů.

Pichai uznal výzvy, ale zdůraznil pokračující závazek společnosti Google zodpovědně rozvíjet AI. Zdůraznil, že je důležité učit se z chyb a vytvářet užitečné produkty, které získávají důvěru uživatelů.

Úplná zpráva od Pichai pro zaměstnance společnosti Google, poprvé nahlášena uživatelem Semafor, je níže.

Chci vyřešit nedávné problémy s problematickými textovými a obrázkovými odpověďmi v aplikaci Gemini (dříve Bard). Vím, že některé z jeho odpovědí urazily naše uživatele a ukázaly zaujatost – aby bylo jasno, to je naprosto nepřijatelné a my jsme to špatně pochopili.

Naše týmy nepřetržitě pracují na řešení těchto problémů. Již nyní jsme svědky podstatného zlepšení u široké řady výzev. Žádná umělá inteligence není dokonalá, zvláště v této nově se rozvíjející fázi vývoje odvětví, ale víme, že laťka je pro nás vysoko a budeme se na ní držet, jak dlouho to bude trvat. A my zkontrolujeme, co se stalo, a zajistíme, že to opravíme ve velkém měřítku.

Naše poslání uspořádat světové informace a učinit je všeobecně přístupnými a užitečnými je posvátné. Vždy jsme se snažili poskytnout uživatelům užitečné, přesné a nezkreslené informace v našich produktech. Lidé jim proto věří. To musí být náš přístup ke všem našim produktům, včetně našich nově vznikajících produktů AI.

Budeme řídit jasný soubor akcí, včetně strukturálních změn, aktualizovaných pokynů pro produkty, vylepšených procesů spouštění, robustních hodnocení a red-teamingu a technických doporučení. To vše prověřujeme a provedeme potřebné změny.

I když se učíme z toho, co se zde pokazilo, měli bychom také stavět na produktových a technických oznámeních, která jsme v AI učinili za posledních několik týdnů. To zahrnuje některé základní pokroky v našich základních modelech, např. náš 1 milion průlomových oken s dlouhým kontextem a naše otevřené modely, které byly dobře přijaty.

Víme, co je zapotřebí k vytvoření skvělých produktů, které používají a milují miliardy lidí a firem, a díky naší infrastruktuře a výzkumným znalostem máme neuvěřitelný odrazový můstek pro vlnu AI. Zaměřme se na to, co je nejdůležitější: vytváření užitečných produktů, které si zaslouží důvěru našich uživatelů.

Mezitím se odborníci domnívají, že spor pramení spíše z technických nedostatků než ze záměrné zaujatosti. Tvrdí, že problém spočívá v softwarových „zábradlích“, které řídí výstup AI, nikoli v samotném základním modelu.