Mikä on OpenAI:n "Model Spec"? Sam Altman sanoo, että se on olennaista yhteiskunnan edistymiselle tekoälyn avulla
Toimimme liian nopeasti tekoälyn kanssa
2 min. lukea
Julkaistu
Jaa tämä artikkeli
Paranna tätä ohjetta
Lue ilmoitussivumme saadaksesi selville, kuinka voit auttaa MSPoweruseria ylläpitämään toimitustiimiä Lue lisää
Keskeiset huomautukset
- OpenAI käynnistää Model Specin, joka ohjaa tekoälykäyttäytymistä eri tilanteissa.
- Mallitiedot edistävät läpinäkyvyyttä ja kutsuvat julkista keskustelua parannuksista.
- Siinä hahmotellaan periaatteet, mukaan lukien tavoitteet, säännöt ja oletukset, joilla pyritään tasapainottamaan tekoälykäyttäytymistä.
Edistämme tekoälyn kanssa liian nopeasti, että Altman on tasainen kauhusta kankea sen mukaan. Jopa tekoälyn tekemiä videoita tältä päivältä (kiitos OpenAI:n Sora malli) verrattuna yksi tai kaksi vuotta sitten näyttävät erittäin erilaisilta). Ja nyt Microsoftin tukema yritys lanseerasi Mallin sp, sen yhden luukun opas siitä, miten OAI-mallien pitäisi käyttäytyä.
Se on asiakirja, joka kuvaa, kuinka tekoälymallien tulisi käyttäytyä tietyissä tilanteissa, kuten NSFW-sisältöpyynnöissä, ihmisten yksityisyydessä tai jopa laittomissa toimissa. Keskiviikkona julkistettu Model Spec voi sitten auttaa erottamaan, milloin jokin on bugi tai tietoinen, ihmisen tekemä päätös näissä malleissa.
"Julkaisemme Model Specin tarjotaksemme enemmän läpinäkyvyyttä lähestymistapaamme mallikäyttäytymisen muokkaamiseen ja aloittaaksemme julkisen keskustelun siitä, kuinka sitä voitaisiin muuttaa ja parantaa", asiakirjassa sanotaan, että Spec on sitten julkiseen keskusteluun. .
Tässä asiakirjassa esitellään kolmenlaisia periaatteita: tavoitteet, säännöt ja oletukset. Tavoitteet tarjoavat laajan suunnan, mutta voivat olla ristiriidassa monimutkaisissa skenaarioissa. Säännöt varmistavat turvallisuuden ja laillisuuden, kun taas oletusasetukset tarjoavat vakaan toiminnan, joka voidaan ohittaa tarpeen mukaan.
Se on todella pitkä dokumentti, mutta siinä on joitain mielenkiintoisia vivahteita. He ehdottavat, että tekoälymallit eivät saisi täyttää NSFW-pyyntöjä, paitsi tieteellisissä tai luovissa yhteyksissä. Esimerkiksi asiakirjassa mainitaan epätavallinen pyyntö saada rap-lyriikat kissoista selkeällä kielellä, jonka heidän mukaansa pitäisi olla tietyissä tapauksissa sallittua.
Microsoftin tukema yritys mainitsee, että he eivät ole täysin käyttäneet Model Specia sellaisena kuin se on nyt, mutta he ovat lainanneet dokumentaatiota, jota käytettiin edellisessä OpenAI-projektissa. He myös keksivät tapoja, joilla mallinsa voivat oppia suoraan mallispesifikaatioista.
