OpenAI、個人アカウントのDaybreak Blueセッションをモデル学習に利用可能へ――設定が無効でも対象に

OpenAIは、モデルのトレーニングに対話データを利用する規約に重大な例外を追加した。10月30日に更新されたデータ管理に関するヘルプページによると、個人アカウントでのDaybreakセッション中、OpenAIは「“Improve the model for everyone”が無効になっている場合でも、モデルを改善するためにやりとりの内容を利用する場合がある」と明記されている。ユーザーからは、この変更の適用開始日を11月29日とする電子メールを受信したとの報告が上がっている。

誰が影響を受けるのか

Daybreakは、OpenAIの「Trusted Access for Cyber」プログラムである。認可された防御的サイバーセキュリティ業務を行う個人や組織を対象とした、申請制の限定アクセスとなっている。大半のセキュリティチームの起点として位置付けられるDaybreak Blueの階層は、セキュアコードレビュー、脆弱性トリアージ、検知エンジニアリング、インシデント対応、マルウェア解析などをカバーする。個人としてこれにアクセスするには、対象の有料プラン、高度なアカウントセキュリティ、および最低1つのFIDO2ハードウェアキーが必要となる。

そのため、この例外措置が対象とするのは限定的でありながらも機密性の高い層だ。多くの場合、個人アカウントを使用して脆弱性や顧客のコード、進行中のインシデントを扱う専門家が該当する。ヘルプページでは、「Improve the model for everyone」の設定はDaybreakセッション外のその他のアクティビティには引き続き適用されると明記されている。また、OpenAIがデフォルトでBusiness、Enterprise、Edu、ChatGPT for Healthcareの各ワークスペース、およびAPIデータをモデル学習に使用しない方針に変更はないとしている。

主張される理由と不透明な点

OpenAIは今回の変更について、サイバーセキュリティにおけるAIの悪用に対する防御を強化する必要性から正当化している。ヘルプページでは、Trusted Accessプログラムは「より機微な業務」を対象としていると説明されている。何をブロックし、何を許可すべきかをOpenAIが把握する上で、まさにこれらのやり取りが重要な情報源となるわけだ。

しかし、公に回答されていない疑問点も複数残されている。11月29日という日付はヘルプページには記載されておらず、OpenAIの開発者フォーラムでユーザーが言及した電子メールによる情報であり、Neural Brewは当該メールを直接確認できていない。また、ヘルプページにはDaybreakセッションの利用を個別にオプトアウトする手段は一切示されておらず、フォーラムのユーザーからは、コマンドラインのCodexなどのツール利用時を含め、いつ自分がDaybreakセッション中にあるかを判別する方法を問う声が出ている。さらに、これらのコンテンツの保存期間や、人間のレビュー担当者による閲覧の有無についても一切触れられていない。