Ce este „Model Spec” al OpenAI? Sam Altman spune că este esențial pentru modul în care societatea progresează cu inteligența artificială
Ne mișcăm prea repede cu AI
2 min. citit
Publicat în data de
Distribuiți acest articol
Îmbunătățiți acest ghid
Citiți pagina noastră de dezvăluire pentru a afla cum puteți ajuta MSPoweruser să susțină echipa editorială Află mai multe
Note cheie
- OpenAI lansează Model Spec, ghidând comportamentul AI în diferite situații.
- Modelul de specificații promovează transparența și invită discuții publice pentru îmbunătățiri.
- Prezintă principii, inclusiv obiective, reguli și valori implicite, cu scopul de a echilibra comportamentul AI.
Ne mișcăm mult prea repede cu AI, încât Altman este egal petrificat prin ea. Chiar și videoclipurile realizate de AI de astăzi (mulțumită lui Sora de la OpenAI model) față de unul sau doi ani în urmă arată extrem de diferit). Și acum, compania susținută de Microsoft a lansat Spec. model, ghidul său unic despre cum ar trebui să se comporte modelele OAI.
Este un document care descrie cum ar trebui să se comporte modelele AI în anumite situații, cum ar fi solicitările de conținut NSFW, confidențialitatea oamenilor sau chiar activități ilegale. Anunțat miercuri, Model Spec poate ajuta apoi să diferențieze când ceva este o eroare sau o decizie conștientă, luată de om în aceste modele.
„Publicăm modelul de specificații pentru a oferi mai multă transparență în abordarea noastră de modelare a comportamentului modelului și pentru a începe o conversație publică despre cum ar putea fi schimbat și îmbunătățit”, se arată în document, spunând că specificația este apoi pentru o conversație publică. .
Acest document subliniază trei tipuri de principii: obiective, reguli și implicite. Obiectivele oferă o direcție largă, dar pot intra în conflict în scenarii complexe. Regulile asigură siguranța și legalitatea, în timp ce valorile implicite oferă comportamente stabile care pot fi anulate după cum este necesar.
Este într-adevăr un document lung, dar există câteva informații interesante. Ei sugerează că modelele de inteligență artificială nu ar trebui să îndeplinească cerințele NSFW, decât în contexte științifice sau creative. De exemplu, documentul menționează o solicitare neobișnuită pentru versuri rap despre pisici cu limbaj explicit, despre care susțin că ar trebui să fie permisă în anumite cazuri.
Compania susținută de Microsoft menționează că nu a folosit pe deplin Model Spec așa cum este acum, dar a împrumutat din documentația folosită într-un proiect anterior la OpenAI. De asemenea, ei găsesc modalități prin care modelele lor să învețe direct din specificațiile modelului.
