OpenAI의 "모델 사양"은 무엇입니까? Sam Altman은 AI가 사회를 발전시키는 데 필수적이라고 말합니다.

우리는 Altman보다 AI가 너무 빨리 움직이고 있습니다. 석화된 그것으로. 오늘은 AI가 만든 영상까지(덕분에) OpenAI의 소라 모델)과 1~2년 전의 모습은 매우 다릅니다). 이제 Microsoft가 지원하는 회사는 모델 사양, OAI 모델의 작동 방식에 대한 원스톱 가이드입니다. 

NSFW 콘텐츠 요청, 개인 정보 보호 또는 불법 활동과 같은 특정 상황에서 AI 모델이 어떻게 작동해야 하는지 설명하는 문서입니다. 수요일에 발표된 Model Spec은 이러한 모델에서 어떤 것이 버그인지 아니면 의식적이고 인간이 내린 결정인지 구별하는 데 도움이 될 수 있습니다.

"우리는 모델 동작 형성에 대한 접근 방식에 대한 투명성을 높이고 모델 사양을 변경하고 개선할 수 있는 방법에 대한 공개 대화를 시작하기 위해 모델 사양을 게시하고 있습니다." 문서에는 사양이 공개 대화를 위해 준비되었다고 나와 있습니다. . 

이 문서에서는 목표, 규칙, 기본값이라는 세 가지 유형의 원칙을 간략하게 설명합니다. 목표는 광범위한 방향을 제공하지만 복잡한 시나리오에서는 충돌할 수 있습니다. 규칙은 안전과 적법성을 보장하는 반면, 기본값은 필요에 따라 재정의할 수 있는 안정적인 동작을 제공합니다.

실제로 긴 문서이지만 몇 가지 흥미로운 정보가 있습니다. 그들은 AI 모델이 과학적이거나 창의적인 맥락을 제외하고는 NSFW 요청을 이행해서는 안 된다고 제안합니다. 예를 들어, 이 문서에서는 노골적인 언어를 사용하여 고양이에 대한 랩 가사를 요청하는 특이한 요청이 언급되어 있는데, 그들은 어떤 경우에는 이것이 허용되어야 한다고 주장합니다.

Microsoft 지원 회사는 현재 모델 사양을 완전히 사용하지는 않았지만 OpenAI의 이전 프로젝트에서 사용된 문서를 빌렸다고 언급합니다. 또한 모델이 모델 사양에서 직접 학습할 수 있는 방법을 모색하고 있습니다.