"Ei hyväksyttävää": Googlen toimitusjohtaja Sundar Pichai Geminin "heränneistä" ja loukkaavista tuloksista

Googlen tekoälytyökalu Gemini, joka tunnetaan kuvien ja tekstin luomisesta, on joutunut kritiikkiin puolueellisen ja loukkaavan sisällön tuottamisesta. Työkalu keskeytettiin viime viikolla, kun käyttäjät ilmoittivat ongelmista, kuten:

• Epätarkkoja historiallisia kuvauksia: Kaksosten luomissa kuvissa viikinkien kaltaiset hahmot näkyivät värikkäinä ihmisinä historiallisesta kontekstistaan ​​huolimatta.
• Loukkaavia tekstikehotteita: Vivahteikas asenne pedofiliaa kohtaan korostaen sitä monimutkaisena asiana pikemminkin kuin "karkeana".

Nämä ongelmat herättivät julkista kritiikkiä, ja jotkut syyttivät Googlea valkoisten vastaisesta puolueellisuudesta. Vastauksena Googlen toimitusjohtaja Sundar Pichai myönsi ongelmat ja kutsui niitä "täysin mahdottomiksi hyväksyä". Hän korosti Googlen sitoutumista tarjoamaan puolueetonta tietoa ja rakentamaan tuotteita, jotka ansaitsevat käyttäjien luottamuksen.

Pichai hahmotteli suunnitelman huolenaiheiden käsittelemiseksi, mukaan lukien:

• Tiukempien valvontatoimien käyttöönotto puolueellisten tulosten estämiseksi.
• Tuoteohjeiden tarkistaminen vastuullisen tekoälykehityksen varmistamiseksi.
• Otetaan käyttöön tiukemmat menettelyt tekoälytyökalujen testaamiseksi ja arvioimiseksi ennen julkistamista.
• Suorittaa perusteellisia arviointeja ja red-timing-harjoituksia mahdollisten ongelmien tunnistamiseksi ja käsittelemiseksi.

Vaikka Pichai tunnusti haasteet, hän korosti Googlen jatkuvaa sitoutumista tekoälyn kehittämiseen vastuullisesti. Hän korosti, että on tärkeää oppia virheistä ja rakentaa hyödyllisiä tuotteita, jotka ansaitsevat käyttäjien luottamuksen.

Pichain koko muistiinpano Googlen työntekijöille, ensimmäisenä raportoinut viestittää, alapuolella.

Haluan käsitellä viimeaikaisia ​​ongelmia, jotka liittyvät ongelmallisiin teksti- ja kuvavastauksiin Gemini-sovelluksessa (entinen Bard). Tiedän, että jotkin sen vastauksista ovat loukannut käyttäjiämme ja osoittaneet puolueellisuutta. Selvyyden vuoksi sanon, että se on täysin mahdotonta hyväksyä, ja teimme sen väärin.

Tiimimme ovat työskennelleet ympäri vuorokauden näiden ongelmien ratkaisemiseksi. Näemme jo huomattavia parannuksia monissa kehotuksissa. Mikään tekoäly ei ole täydellinen, varsinkaan tässä alan kehitysvaiheessa, mutta tiedämme, että rima on meille korkealla ja pysymme siinä kuinka kauan tahansa. Ja tarkistamme, mitä tapahtui, ja varmistamme, että korjaamme sen mittakaavassa.

Missiomme järjestää maailman tieto ja tehdä siitä yleisesti saatavilla ja hyödyllinen on pyhä. Olemme aina pyrkineet tarjoamaan käyttäjille hyödyllistä, tarkkaa ja puolueetonta tietoa tuotteissamme. Siksi ihmiset luottavat heihin. Tämän on oltava lähestymistapamme kaikissa tuotteissamme, mukaan lukien nousevat tekoälytuotteemme.

Aiomme toteuttaa selkeitä toimenpiteitä, mukaan lukien rakenteelliset muutokset, päivitetyt tuoteohjeet, parannetut julkaisuprosessit, tehokkaat arvioinnit ja red-teaming sekä tekniset suositukset. Selvitämme kaiken tämän ja teemme tarvittavat muutokset.

Vaikka opimmekin siitä, mikä meni pieleen, meidän pitäisi myös hyödyntää tuotteita ja teknisiä ilmoituksia, joita olemme tehneet tekoälyssä viime viikkoina. Tämä sisältää joitakin perustavanlaatuisia edistysaskeleita taustalla olevissa malleissamme, kuten miljoonan pitkän kontekstin ikkunan läpimurtomme ja avoimet mallimme, jotka molemmat ovat saaneet hyvän vastaanoton.

Tiedämme, mitä tarvitaan loistavien tuotteiden luomiseen, joita miljardit ihmiset ja yritykset käyttävät ja rakastavat, ja infrastruktuurimme ja tutkimusosaamisemme ansiosta meillä on uskomaton ponnahduslauta tekoälyaaltoon. Keskitytään tärkeimpään: hyödyllisten tuotteiden rakentamiseen, jotka ansaitsevat käyttäjiemme luottamuksen.

Samaan aikaan asiantuntijat uskovat, että kiista johtuu pikemminkin teknisistä puutteista kuin tahallisesta puolueellisuudesta. He väittävät, että ongelma piilee ohjelmiston "suojakaiteissa", jotka ohjaavat tekoälyn tulosta, ei itse taustalla olevassa mallissa.