Useiden johtajien eron jälkeen OpenAI hajottaa tekoälyn turvallisuustiimin

Lukuajan kuvake 2 min. lukea


Lukijat auttavat tukemaan MSpoweruseria. Saatamme saada palkkion, jos ostat linkkien kautta. Työkaluvihje-kuvake

Lue ilmoitussivumme saadaksesi selville, kuinka voit auttaa MSPoweruseria ylläpitämään toimitustiimiä Lue lisää

Keskeiset huomautukset

  • OpenAI hajotti tekoälyturvaryhmänsä keskeisten lähtöjen jälkeen.
  • Entinen johtaja Leike huolestui, että turvallisuustutkimus jätettiin tuotekehityksen tärkeysjärjestykseen.
  • OpenAI takaa turvallisuustutkimuksen jatkuvan, mutta tiimien välinen integrointi on epäselvää.

OpenAI on hajottanut tiiminsä, joka on omistautunut kehittyneen tekoälyn pitkäaikaisiin turvallisuusriskeihin. Tämä uutinen tulee vain muutama päivä sen jälkeen kaksi avainhenkilöä: Ilja Sutskever, toinen perustaja ja entinen päätutkija, sekä Jan Leike, joka johti Superalignment-tiimiä.

Leike ilmaisi julkisesti huolensa siitä, että OpenAI asettaa uusien tuotteiden kehittämisen etusijalle turvallisuustutkimuksen sijaan. 

"Turvallisuuskulttuuri ja -prosessit ovat siirtyneet taka-alalle kiiltävissä tuotteissa."

Hän sanoi, että AGI:n (Artificial General Intelligence) seurantaan, varautumiseen ja yhteiskunnallisiin vaikutuksiin tulisi osoittaa enemmän resursseja. Leike ilmaisi uskovansa, että OpenAI:n tulisi asettaa turvallisuus ennen kaikkea.

Superalignment-tiimin hajottaminen tapahtuu OpenAI:n sisäisen myllerryksen jälkeen. Marraskuussa 2023 hallitus syrjäytti perustajansa Sam Altmanin, koska viestinnässä ei ollut avoimuutta. 

Vaikka Altman lopulta palautettiin, Sutskever ja muut häntä vastustaneet hallituksen jäsenet erosivat yrityksestä.

OpenAI väittää, että turvallisuustutkimus jatkuu, on epäselvää, kuinka tehokkaasti se integroidaan eri ryhmien kesken ilman erityistä ryhmää, joka keskittyy pelkästään pitkän aikavälin riskien vähentämiseen.

Tämä uutinen tulee julkaisun yhteydessä OpenAI:n uusi tekoälymalli GPT-4o ja ChatGPT:n työpöytäversio. 

Vain aika näyttää, kuinka OpenAI selviytyy monimutkaisista haasteista varmistaa edistyneen tekoälyn vastuullinen kehittäminen ja tasapainottaa nämä ponnistelut innovaation tavoittelun kanssa.

Lisää: tätä.