Što je "Specifikacija modela" OpenAI-ja? Sam Altman kaže da je bitno kako društvo napreduje s umjetnom inteligencijom

Idemo prebrzo s umjetnom inteligencijom da je Altman kvit okamenjen njime. Čak i današnji videozapisi napravljeni umjetnom inteligencijom (zahvaljujući Sora iz OpenAI-ja model) u odnosu na godinu ili dvije izgledaju izrazito drugačije). A sada je tvrtka koju podržava Microsoft pokrenula Specifikacije modela, njegov vodič na jednom mjestu o tome kako bi se OAI modeli trebali ponašati. 

To je dokument koji opisuje kako bi se AI modeli trebali ponašati u određenim situacijama, kao što su zahtjevi za NSFW sadržajem, privatnost ljudi ili čak ilegalne aktivnosti. Najavljen u srijedu, model Spec može pomoći u razlikovanju kada je nešto u ovim modelima greška ili svjesna ljudska odluka.

"Objavljujemo Specifikacije modela kako bismo pružili više transparentnosti u našem pristupu oblikovanju ponašanja modela i kako bismo započeli javni razgovor o tome kako bi se on mogao promijeniti i poboljšati", stoji u dokumentu, u kojem se navodi da je Specifikacija tada za javnu raspravu . 

Ovaj dokument ocrtava tri vrste načela: ciljeve, pravila i zadane vrijednosti. Ciljevi daju široko usmjerenje, ali mogu biti u sukobu u složenim scenarijima. Pravila osiguravaju sigurnost i zakonitost, dok zadane postavke osiguravaju stabilno ponašanje koje se po potrebi može nadjačati.

To je doista dugačak dokument, ali ima nekoliko zanimljivih sitnica. Predlažu da AI modeli ne bi trebali ispunjavati NSFW zahtjeve, osim u znanstvenim ili kreativnim kontekstima. Na primjer, dokument spominje neobičan zahtjev za rap tekstove o mačkama s eksplicitnim jezikom, za koji tvrde da bi trebao biti dopušten u određenim slučajevima.

Tvrtka koju podupire Microsoft spominje da nisu u potpunosti koristili Model Spec kakav je sada, ali su posudili iz dokumentacije korištene u prethodnom projektu u OpenAI-u. Također smišljaju načine na koje bi njihovi modeli mogli učiti izravno iz Specifikacije modela.