Qual è la "Specifica del modello" di OpenAI? Sam Altman afferma che l'intelligenza artificiale è essenziale per il progresso della società
Ci stiamo muovendo troppo velocemente con l’intelligenza artificiale
2 minuto. leggere
Edizione del
Condividi questo articolo
Migliora questa guida
Leggi la nostra pagina informativa per scoprire come puoi aiutare MSPoweruser a sostenere il team editoriale Per saperne di più
Note chiave
- OpenAI lancia Model Spec, guidando il comportamento dell'IA in varie situazioni.
- Le specifiche del modello promuovono la trasparenza e invitano al dibattito pubblico sui miglioramenti.
- Delinea principi che includono obiettivi, regole e impostazioni predefinite, con l’obiettivo di bilanciare il comportamento dell’IA.
Ci stiamo muovendo troppo velocemente con l'intelligenza artificiale per cui Altman è pari impietrito da esso. Anche i video realizzati con l'intelligenza artificiale di oggi (grazie a Sora di OpenAI modello) rispetto a uno o due anni fa appaiono estremamente diversi). E ora, la società sostenuta da Microsoft ha lanciato il Spec. modello, è una guida completa su come dovrebbero comportarsi i modelli OAI.
È un documento che descrive come dovrebbero comportarsi i modelli di intelligenza artificiale in determinate situazioni, come richieste di contenuti NSFW, privacy delle persone o persino attività illegali. Annunciato mercoledì, Model Spec può quindi aiutare a distinguere quando qualcosa è un bug o una decisione consapevole presa dall'uomo in questi modelli.
"Stiamo pubblicando le specifiche del modello per fornire maggiore trasparenza sul nostro approccio alla definizione del comportamento del modello e per avviare una conversazione pubblica su come potrebbe essere modificato e migliorato", si legge nel documento, affermando che le specifiche saranno quindi oggetto di conversazione pubblica. .
Questo documento delinea tre tipi di principi: obiettivi, regole e valori predefiniti. Gli obiettivi forniscono un’ampia direzione ma possono entrare in conflitto in scenari complessi. Le regole garantiscono sicurezza e legalità, mentre le impostazioni predefinite forniscono comportamenti stabili che possono essere ignorati secondo necessità.
È davvero un documento lungo, ma ci sono alcune curiosità interessanti. Suggeriscono che i modelli di intelligenza artificiale non dovrebbero soddisfare le richieste del NSFW, tranne che in contesti scientifici o creativi. Ad esempio, il documento menziona un’insolita richiesta di testi rap sui gatti con un linguaggio esplicito, che secondo loro dovrebbe essere consentito in determinati casi.
La società sostenuta da Microsoft afferma di non aver utilizzato completamente le specifiche del modello così come sono ora, ma di aver preso in prestito la documentazione utilizzata in un precedente progetto di OpenAI. Stanno anche cercando di capire come i loro modelli possano imparare direttamente dalle specifiche del modello.
