OpenAIの「モデルスペック」とは何ですか?サム・アルトマン氏、AIで社会が進歩するためにはAIが不可欠だと語る

私たちはAIの進歩が速すぎて、アルトマンにも及ばない 石化 それによります。 AI が作成したビデオも今日から (おかげで) OpenAIのソラ モデル）と 1 ～ 2 年前とでは非常に異なって見えます）。そして今、マイクロソフトの支援を受けたこの会社は、 モデル仕様、OAI モデルがどのように動作すべきかに関するワンストップ ガイドです。 

これは、NSFW コンテンツのリクエスト、人々のプライバシー、さらには違法行為など、特定の状況で AI モデルがどのように動作するべきかを説明する文書です。水曜日に発表されたモデルスペックは、これらのモデルにおいて何かがバグであるか、意識的な人間による決定であるかを区別するのに役立ちます。

「私たちは、モデルの動作を形成するためのアプローチの透明性を高め、モデルをどのように変更および改善できるかについて公開の会話を開始するために、モデル仕様を公開します」と文書には書かれており、仕様はその後公開の会話にさらされると述べられています。 。 

この文書では、目的、ルール、デフォルトという 3 種類の原則について概説します。目標は大まかな方向性を示しますが、複雑なシナリオでは矛盾する可能性があります。ルールは安全性と合法性を保証し、デフォルトは必要に応じて上書きできる安定した動作を提供します。

確かに長い文書ですが、興味深い情報がいくつかあります。彼らは、科学的または創造的な文脈を除き、AI モデルが NSFW の要求を満たすべきではないと示唆しています。たとえば、この文書では、露骨な表現で猫についてのラップの歌詞を求める異例のリクエストについて言及しており、特定の場合には許容されるべきだと主張している。

Microsoft が支援するこの企業は、現時点では Model Spec を完全に活用していないが、OpenAI の以前のプロジェクトで使用されたドキュメントから借用していると述べています。彼らはまた、モデルがモデル仕様から直接学習する方法も考え出しています。