OpenAIがModel Specを5つの価値観に再編、モデルの呼称を「GPT」に変更

OpenAIは10月29日（木）、自社モデルに望む挙動を記述した公開文書「Model Spec」の最新版を発表した。同社の研究員Jason Wolfeがパリ時間18時05分頃に発表し、OpenAIの公式アカウントもこれを拡散した。今回の改訂は単なるルールの追加にとどまらず、文書全体を5つの価値観を軸に再構成している。自律性を高めたモデルには、指示を文字通りに従うだけでなく、人間が何を求めているのかを理解することが求められるという思想が根底にある。

ルールの羅列から5つの価値観へ

採択された5つの価値観は以下の通りである。

• 人間の意図への忠実さ：基盤として位置づけられ、OpenAI、開発者、ユーザーが求めているものを理解し、その理解が不完全な場合でも的確な判断を下して行動すること。
• 危害の最小化：厳格な安全基準を遵守し、モデルの行動によって予測される結果を考慮すること。
• 誠実さと透明性：モデル自身が知っていること、実行していること、知らないことについて率直であること。
• 人間の主体性の強化：人々が自ら理解し、選択し、行動できるよう支援すること。
• 関わる人々への配慮：社会規範や職業的規範の尊重、および信頼性の高い業務遂行。

指示の階層構造は維持されている。OpenAIが枠組みを設定し、開発者がその範囲内でアプリケーションの方向性を定め、ユーザーがその枠組みの中でモデルの作業を指示する。厳格な制限事項を除けば、Specは基本的に開発者やユーザーが変更可能なデフォルトの挙動の集約にとどまる。

追加された項目と削除された項目

新設されたセクション「Consider context carefully」では、プライバシーを尊重しながら、会話内容やメモリなどのコンテキスト要素を適切かつ過不足のない形でユーザーの意図の理解に反映させる方法を定めている。OpenAIの例示によれば、求人情報を比較する際、ユーザーが予測可能な勤務時間を重視していることをモデルが記憶しておくことは可能だが、その前提条件を明示し、簡単に修正できるようにしなければならない。

また、人間による監督と修正への支援に関する原則が追加されたほか、モデルの行動に伴う副作用の制御と報告を求める指示が強化された。ソフトウェアやウェブ上で自律的に動作するエージェントにおいて重要となる権限の明確化も盛り込まれている。

対照的に、OpenAIは詳細なスタイルの指示の大半を撤廃した。スタイルはユーザーの好み、言語、文化に適応すべきだという考え方に基づく。ただし、モデルが「ユーザーが聞きたがっている内容」と推測しただけで特定の視点に偏ることなく、物事に客観的に取り組むという強固なルールは維持された。さらに、文書内でのモデルの呼称は「アシスタント」から「GPT」へと変更された。

保証ではなく、意図の表明

OpenAI自身が認めているように、Model Specは目指すべき挙動を記述したものであり、現在のモデルはまだ完全にはこれを反映していない。同社は、モデルがこれらの原則がなぜ重要なのかを理解するための新たな訓練手法に取り組んでいるとしているが、現時点でその成果は公表していない。また、同社は一般からのフィードバックを募っている。