Qual é a “especificação do modelo” da OpenAI? Sam Altman diz que é essencial para o progresso da sociedade com IA
Estamos avançando muito rápido com IA
2 minutos. ler
Publicado em
Compartilhe este artigo
Melhore este guia
Leia nossa página de divulgação para descobrir como você pode ajudar o MSPoweruser a sustentar a equipe editorial Saiba mais
Notas chave
- OpenAI lança o Model Spec, orientando o comportamento da IA em diversas situações.
- As especificações do modelo promovem a transparência e convidam à discussão pública para melhorias.
- Descreve princípios, incluindo objetivos, regras e padrões, com o objetivo de equilibrar o comportamento da IA.
Estamos avançando tão rápido com a IA que Altman está até petrificado por isso. Até os vídeos feitos por IA de hoje (graças a Sora da OpenAI modelo) versus um ou dois anos atrás parecem extremamente diferentes). E agora, a empresa apoiada pela Microsoft lançou o Especificação do modelo, seu guia completo sobre como os modelos OAI devem se comportar.
É um documento que descreve como os modelos de IA devem se comportar em determinadas situações, como solicitações de conteúdo NSFW, privacidade das pessoas ou até mesmo atividades ilegais. Anunciado na quarta-feira, o Model Spec pode ajudar a diferenciar quando algo é um bug ou uma decisão consciente feita pelo homem nesses modelos.
“Estamos publicando as especificações do modelo para fornecer mais transparência em nossa abordagem para moldar o comportamento do modelo e para iniciar uma conversa pública sobre como ele poderia ser alterado e melhorado”, diz o documento, dizendo que as especificações estarão então disponíveis para conversa pública. .
Este documento descreve três tipos de princípios: objetivos, regras e padrões. Os objetivos fornecem uma orientação ampla, mas podem entrar em conflito em cenários complexos. As regras garantem segurança e legalidade, enquanto os padrões proporcionam comportamentos estáveis que podem ser substituídos conforme necessário.
Na verdade, é um documento longo, mas há algumas informações interessantes. Eles sugerem que os modelos de IA não devem atender às solicitações do NSFW, exceto em contextos científicos ou criativos. Por exemplo, o documento menciona um pedido incomum de letras de rap sobre gatos com linguagem explícita, o que eles argumentam que deveria ser permitido em certos casos.
A empresa apoiada pela Microsoft menciona que não usou totalmente o Model Spec como é agora, mas pegou emprestado a documentação usada em um projeto anterior da OpenAI. Eles também estão descobrindo maneiras de seus modelos aprenderem diretamente com as especificações do modelo.
