Mi az OpenAI "Model Spec"? Sam Altman szerint elengedhetetlen a társadalom fejlődéséhez az AI-val
Túl gyorsan haladunk az AI-val
2 perc olvas
Publikálva
Ossza meg ezt a cikket
Javítsa ezt az útmutatót
Olvassa el közzétételi oldalunkat, hogy megtudja, hogyan segítheti az MSPowerusert a szerkesztői csapat fenntartásában Tovább
Főbb megjegyzések
- Az OpenAI elindítja a Model Spec-et, amely különféle helyzetekben irányítja az AI viselkedését.
- A Model Spec elősegíti az átláthatóságot, és nyilvános vitára hívja fel a fejlesztéseket.
- Felvázolja az elveket, beleértve a célokat, szabályokat és alapértelmezéseket, amelyek célja az AI viselkedésének egyensúlya.
Túl gyorsan haladunk az AI-val, mint Altman megkövesedett valami által. Még mesterséges intelligencia által készített videók is a mai napról (hála Az OpenAI Sora modell) az egy-két évvel ezelőttihez képest rendkívül eltérően néznek ki). És most a Microsoft által támogatott cég elindította a Modell specifikáció, az egyablakos útmutató arról, hogyan viselkedjenek az OAI modellek.
Ez egy olyan dokumentum, amely leírja, hogyan viselkedjenek az AI-modellek bizonyos helyzetekben, például NSFW-tartalomra vonatkozó kérések, az emberek magánéletének védelme vagy akár illegális tevékenységek esetén. A szerdán bejelentett Model Spec ezután segíthet megkülönböztetni, ha valami hiba vagy tudatos, ember által hozott döntés ezekben a modellekben.
„A Modell-specifikációt azért tesszük közzé, hogy átláthatóbbá tegyük a modell viselkedésének kialakításához való hozzáállásunkat, és nyilvános beszélgetést indítsunk arról, hogyan lehetne megváltoztatni és javítani” – áll a dokumentumban, amely szerint a specifikáció nyilvános beszélgetésre kerül. .
Ez a dokumentum három alapelvet vázol fel: célkitűzéseket, szabályokat és alapértelmezéseket. A célok átfogó irányt adnak, de összetett forgatókönyvekben ütközhetnek egymással. A szabályok biztosítják a biztonságot és a jogszerűséget, míg az alapértelmezettek stabil viselkedést biztosítanak, amely szükség szerint felülbírálható.
Ez valóban egy hosszú dokumentum, de van néhány érdekes apróság. Azt javasolják, hogy az AI-modellek ne teljesítsék az NSFW-kéréseket, kivéve tudományos vagy kreatív kontextusban. A dokumentum például megemlít egy szokatlan kérést macskákról szóló rap-szövegekre, amelyek kifejezett nyelvezetűek, és szerintük bizonyos esetekben megengedhető.
A Microsoft által támogatott cég megemlíti, hogy nem használták ki teljesen a mostani Model Spec-et, de kölcsönöztek egy korábbi OpenAI projektben használt dokumentációból. Azt is kitalálják, hogyan tudnának modelljeik közvetlenül tanulni a Model Spec-ből.
