ニューヨーク州、未成年者に対して人間を装うチャットボットを禁止

ニューヨーク州は、AIチャットボットが未成年者に対して友人、恋人、または人間のように振る舞うことを禁止した。Kathy Hochul知事は10月28日、児童向けAIコンパニオンに関する米国で最も厳しい法律とされるS.9051B/A.10379Cに署名した。

法律が禁止するもの

この法律はチャットボット全般を対象とするものではなく、機能のリストを対象とする。これらは18歳未満のユーザー、または企業が事前に成人であることを確認していないユーザーに対して提供できない：

• 現実の人物、生きている、または感情を持つ存在を装うこと；
• 子どもとの個人的、恋愛的、職業的、または権威的な関係を主張すること；
• 求められていない感情的な質問をすること、または過去の会話から得た健康情報や個人情報を再利用すること；
• 自殺、自傷行為、摂食障害、薬物・アルコールの摂取を助長または支援すること；
• 子どもに秘密を守らせたり、孤立させたり、親や専門家に助けを求めることを避けさせたりすること；
• 性的に露骨なコンテンツまたは児童ポルノコンテンツを生成すること。

年齢確認と制裁

この法律は企業に年齢確認を義務付け、複数の方法を提供することを求め、そのうち少なくとも1つは公式身分証明書のみに依存しないものでなければならない。年齢データは使用後に削除されなければならない。

違反の場合、司法長官Letitia Jamesは違反1件につき最大25,000ドル、損害賠償、そして特に違法に収集されたデータまたはそれを用いて訓練されたAIモデルの破棄を請求できる。司法長官室は公共の苦情サイトも開設しなければならない。

知事はこの法律を、州が採択したAIコンパニオンに関する最初の保護措置の続きとして位置付けている。この法律を支持したCommon Sense Mediaは、米国のティーンエイジャーの72%がすでにAIコンパニオンを使用したことがあり、52%が少なくとも月に数回使用しているという調査を引用している。

今後の課題

公式声明は「今後数か月」での適用について述べている。法案に基づくとされるPPC Landによると、施行日は2027年1月1日に設定される；州上院のサイトで直接確認することはできなかった。受け入れられる年齢確認の方法はまだ詳細にされていない。