モデル・研究所

蒸留対策:OpenAIが推論抽出の成功率を0.2%に抑えたと発表、同じ日に米下院報告書が中国製オープンモデルを問題視

OpenAIは11月20日、自社モデルの出力で競合モデルを学習させる「敵対的蒸留」への防御策を詳しく説明した。試験したある攻撃の成功率は、GPT-6.2 Astraでは54%から0.2%に下がったという。同じ日、米下院の委員長2人が50ページの報告書を公表し、Airbnb、Cursor、DoorDashの事例を挙げて、中国製モデルを連邦政府のシステムから排除するよう勧告した。

モデル・研究所カテゴリー用に生成した抽象的なイラスト

11月20日の金曜日、ワシントンとサンフランシスコで2つの文書が公表された。語っているのは同じ話だ。OpenAIは「敵対的蒸留」への防御策を説明した。競合他社がGPTの出力で自社モデルを学習させ、安全対策抜きでその能力を手に入れる手法である。同じ日、米下院の委員長2人が50ページの調査報告書を公表した。報告書は中国製のオープンウェイトAIモデルを連邦政府のシステムから排除するよう求め、その進歩の多くはまさにこの蒸留によるものだと主張している。

OpenAIが守るもの:隠れた推論

主な標的は保護された推論だ。GPT-6.2 Astraのようなモデルが回答の前に生成し、ユーザーには見えない途中の手順を指す。OpenAIによれば、こうした痕跡には最終的な回答に含まれない情報があり、「生徒」モデルにとって特に価値の高い学習データになる。

OpenAIはこれを示す社内研究を公表した。Astra級のモデルが解いたプログラミングと防御的サイバーセキュリティの課題で、生徒モデルを学習させた。教師あり学習の後では、推論の痕跡そのもので学習した生徒が、ユーザーに見える推論の要約で学習した生徒をおおむね上回った。強化学習を経た後は、その優位は試した中で最大の計算予算の場合にしか残らなかった。

6つの自動攻撃モデルを使ってOpenAIが測定した攻撃テストの結果は次の通りだ。

攻撃の成功率(社内評価) GPT-6 Astra、当初の安全対策 GPT-6.2 Astra、強化した安全対策
前のリクエストの推論を抽出 54.0% 0.2%
現在のリクエストの推論を抽出 22.9% 0.9%

API側では、推論はそれを生んだ履歴に結び付けられるようになった。開発者が以前のメッセージを書き換えると、APIはそれ以降の推論を破棄する。OpenAIは9月、暗号化された推論を別の会話に移して開示させる攻撃を報告しており、その後、ユーザー、ワークスペース、組織の間の仕切りを強化したとしている。保護の弱い旧世代のモデルは、GPT-6.2の推論を読めなくなった。OpenAIはまた、数千から数万のアカウントからなるネットワークに毎週対処しているという。同社は2月に、DeepSeekによるとみられる蒸留の試みについて議会に説明し、9月にはあるキャンペーンの一部を、Kimiの開発元Moonshot AIに関係する人物によるものだと特定したことを改めて挙げている。

下院報告書:Airbnb、Cursor、DoorDashの事例

報告書に署名したのは、国土安全保障委員会のアンドリュー・ガルバリーノ委員長と、中国特別委員会のジョン・ムーレナー委員長で、2人とも共和党だ。調査は4月に始まり、米国企業3社を事例としている。

企業 挙げられた中国製モデル 報告書が記す用途
Airbnb Qwen 2.5、3、3.5(Alibaba) 顧客向けアシスタント(1日約8万件の対応)、1日約25万件のサポート案件と通話の要約
Anysphere(Cursor) Kimi K2.5(Moonshot AI) Cursorの独自モデルComposer 2の基盤。独立した開発者がベースモデルを特定して初めて公になった
DoorDash Qwen、DeepSeek、Kimi、GLM、MiniMax、ByteDance 25のモデルファミリーを承認し本格導入(計算費用5000ドル以上)。そのうち1つの置き換えには最大6か月かかりうる

報告書は公開資料をもとに規模を示している。OpenRouterでは、米国発のリクエストのトークンに占めるオープンウェイトモデルの割合が、2025年9月の26%から2026年8月には60%に上がったとされ、その多くは中国製モデルだという。中国製モデルは1年間でHugging Faceのダウンロードの41%を占め、Qwenファミリーの派生モデルは15万1000以上あるとされる。報告書によれば、米国最高のオープンウェイトモデルは、Artificial Analysisの最新の指数で10位にとどまり、6つの中国製モデルの後塵を拝している。9月のランキングで米国最高のオープンウェイトモデルだったのはThinking Machines LabのInklingで、報告書が引用する同社の説明によれば、その初期学習にはKimi K2.5などが生成した合成データが使われた。同社はちょうどInkling 2 Miniを公開したところだ。

12の勧告は禁止だけにとどまらない。報告書は、連邦政府のシステムと契約での中国製モデルの禁止、重要インフラの高リスク機能からの排除、連邦のサイバーセキュリティ補助金を購入に使わせないことを求めている。さらに、米国のオープンウェイトモデルの国家的な取り組み、構成要素の「部品表」を伴うモデルの来歴基準、蒸留を行う者への制裁、米国の学習データの中国の研究所への販売の調査も提案している。

編集部の見方

2つの文書は呼応している。OpenAIが技術的な論拠を示し、議会が政治的な結論を引き出した形だ。それでも、それぞれの性格を踏まえて読む必要がある。OpenAIの攻撃成功率はOpenAI自身が測ったもので、蒸留の特定は公に検証できない企業や政府機関の説明に基づく。報告書には法的拘束力がなく、多数派の委員長2人による勧告で、対象は米国だけだ。報告書は普及の本当の原動力も認めている。企業がこれらのモデルを選ぶのは、安く、手を加えやすく、同じ価格の米国製の代替がないからだ。QwenやKimiを使う欧州企業にとって、短期的には何も変わらない。ただ、どのモデルがどこで動き、どこから来たのかを把握するという追跡可能性の要求は、米国の顧客との契約で求められるようになる可能性がある。

出典

  1. OpenAI — Combatting adversarial distillation(2026年11月20日) 一次情報
  2. 米下院国土安全保障委員会 — 合同報告書に関するプレスリリース(2026年11月20日) 一次情報
  3. 米下院委員会による中国製AIモデルに関する合同報告書(PDF、2026年11月20日) 一次情報

一次情報とは、当該企業・研究所・団体が直接発信した情報です。二次情報は、発信元ではない媒体が伝えた情報で、その旨を明記しています。誤りを見つけたら訂正方針をご覧ください。