Quelle est la « spécification du modèle » d'OpenAI ? Sam Altman dit que c'est essentiel à la façon dont la société progresse avec l'IA

Nous avançons beaucoup trop vite avec l'IA qu'Altman est même pétrifié par cela. Même les vidéos réalisées par l'IA d'aujourd'hui (grâce à Sora d'OpenAI modèle) par rapport à il y a un ou deux ans semblent extrêmement différents). Et maintenant, la société soutenue par Microsoft a lancé le Spécification du modèle, son guide unique sur le comportement des modèles OAI. 

Il s'agit d'un document qui décrit comment les modèles d'IA doivent se comporter dans certaines situations, telles que les demandes de contenu NSFW, la vie privée des personnes ou même les activités illégales. Annoncé mercredi, Model Spec peut alors aider à différencier quand quelque chose est un bug ou une décision consciente et prise par l'homme dans ces modèles.

"Nous publions la spécification du modèle pour fournir plus de transparence sur notre approche visant à façonner le comportement du modèle et pour lancer une conversation publique sur la manière dont elle pourrait être modifiée et améliorée", indique le document, indiquant que la spécification sera ensuite soumise à une conversation publique. . 

Ce document décrit trois types de principes : les objectifs, les règles et les valeurs par défaut. Les objectifs fournissent une orientation générale mais peuvent entrer en conflit dans des scénarios complexes. Les règles garantissent la sécurité et la légalité, tandis que les valeurs par défaut fournissent des comportements stables qui peuvent être remplacés si nécessaire.

C'est en effet un long document, mais il contient quelques informations intéressantes. Ils suggèrent que les modèles d’IA ne devraient pas répondre aux demandes du NSFW, sauf dans des contextes scientifiques ou créatifs. Par exemple, le document mentionne une demande inhabituelle de paroles de rap sur des chats avec un langage explicite, ce qui, selon eux, devrait être autorisé dans certains cas.

La société soutenue par Microsoft mentionne qu'elle n'a pas pleinement utilisé la spécification de modèle telle qu'elle est actuellement, mais qu'elle a emprunté à la documentation utilisée dans un projet précédent chez OpenAI. Ils cherchent également des moyens pour que leurs modèles apprennent directement à partir des spécifications du modèle.