¿Cuál es la "especificación del modelo" de OpenAI? Sam Altman dice que la IA es esencial para el progreso de la sociedad

Nos estamos moviendo demasiado rápido con la IA como para que Altman esté a la altura. petrificado por esto. Incluso los videos creados por IA de hoy (gracias a Sora de OpenAI modelo) versus hace uno o dos años se ven extremadamente diferentes). Y ahora, la empresa respaldada por Microsoft lanzó el Especificación del modelo, su guía integral sobre cómo deben comportarse los modelos OAI. 

Es un documento que describe cómo deben comportarse los modelos de IA en determinadas situaciones, como solicitudes de contenido NSFW, la privacidad de las personas o incluso actividades ilegales. Anunciado el miércoles, Model Spec puede ayudar a diferenciar cuando algo es un error o una decisión consciente tomada por humanos en estos modelos.

"Estamos publicando la especificación del modelo para brindar más transparencia sobre nuestro enfoque para dar forma al comportamiento del modelo y para iniciar una conversación pública sobre cómo se podría cambiar y mejorar", se lee en el documento, y se dice que la especificación luego estará disponible para la conversación pública. . 

Este documento describe tres tipos de principios: objetivos, reglas y valores predeterminados. Los objetivos proporcionan una dirección amplia pero pueden entrar en conflicto en escenarios complejos. Las reglas garantizan la seguridad y la legalidad, mientras que los valores predeterminados proporcionan comportamientos estables que pueden anularse según sea necesario.

Es un documento realmente largo, pero hay algunos datos interesantes. Sugieren que los modelos de IA no deberían cumplir con las solicitudes NSFW, excepto en contextos científicos o creativos. Por ejemplo, el documento menciona una solicitud inusual de letras de rap sobre gatos con lenguaje explícito, lo que, según ellos, debería estar permitido en ciertos casos.

La compañía respaldada por Microsoft menciona que no han utilizado completamente la especificación del modelo tal como está ahora, pero han tomado prestada la documentación utilizada en un proyecto anterior en OpenAI. También están descubriendo formas para que sus modelos aprendan directamente de las especificaciones del modelo.