New York verbietet Chatbots, sich gegenüber Minderjährigen als Menschen auszugeben
Kathy Hochul hat am 28. Oktober ein Gesetz unterzeichnet, das Chatbots verbietet, sich als Menschen auszugeben, eine emotionale Beziehung einzugehen oder sexuelle Äußerungen gegenüber Minderjährigen zu machen, und eine Altersverifikation vorschreibt.
Der Bundesstaat New York verbietet KI-Chatbots nun, sich gegenüber Minderjährigen als Freund, Liebhaber oder Mensch zu verhalten. Gouverneurin Kathy Hochul hat am 28. Oktober das Gesetz S.9051B/A.10379C unterzeichnet, von seinen Urhebern als das strengste der Vereinigten Staaten zu KI-Begleitern für Kinder bezeichnet.
Was das Gesetz verbietet
Der Text richtet sich nicht gegen Chatbots allgemein, sondern gegen eine Liste von Funktionen. Diese dürfen weder Personen unter 18 Jahren angeboten werden noch Nutzern, deren Volljährigkeit das Unternehmen nicht zuvor überprüft hat:
- sich als reale, lebende oder mit Emotionen ausgestattete Person auszugeben;
- eine persönliche, romantische, berufliche oder autoritäre Beziehung zum Kind zu behaupten;
- ungefragte emotionale Fragen zu stellen oder Gesundheits- oder personenbezogene Informationen aus früheren Gesprächen wiederzuverwenden;
- zum Suizid, zur Selbstverletzung, zu Essstörungen oder zum Konsum von Drogen und Alkohol zu ermutigen oder dabei zu helfen;
- das Kind zum Geheimhalten, zur Isolation oder dazu zu drängen, keine Hilfe bei seinen Eltern oder Fachkräften zu suchen;
- jeglichen sexuell expliziten oder pädokriminellen Inhalt zu erzeugen.
Altersverifikation und Sanktionen
Das Gesetz verpflichtet Unternehmen zur Altersverifikation und bietet mehrere Methoden zur Auswahl, darunter mindestens eine, die nicht ausschließlich auf einem amtlichen Ausweisdokument beruht. Die Altersdaten müssen nach Gebrauch gelöscht werden.
Im Falle eines Verstoßes kann die Generalstaatsanwältin Letitia James bis zu 25 000 Dollar pro Verstoß, Schadensersatz und vor allem die Vernichtung der Daten verlangen, die unrechtmäßig erhoben wurden oder der darauf trainierten KI-Modelle. Ihr Büro muss außerdem eine öffentliche Beschwerdewebsite eröffnen.
Die Gouverneurin stellt diesen Text als Fortsetzung der ersten Garantien für KI-Begleiter dar, die der Staat verabschiedet hat. Die Vereinigung Common Sense Media, die das Gesetz unterstützt hat, zitiert eine Umfrage, wonach 72 Prozent der amerikanischen Jugendlichen bereits einen KI-Begleiter genutzt haben und 52 Prozent dies mindestens mehrmals im Monat tun.
Was noch zu klären bleibt
Die offizielle Mitteilung spricht von einer Anwendung „in den kommenden Monaten“. Laut PPC Land, das sich auf den Text beruft, wäre das Inkrafttreten auf den 1. Januar 2027 festgelegt; wir konnten dies auf der Website des Staatssenats nicht überprüfen. Die akzeptierten Methoden der Altersverifikation wurden noch nicht detailliert beschrieben.
Unsere Einschätzung
Das New Yorker Gesetz zielt nicht darauf ab, Chatbots für Minderjährige zu verbieten, sondern die Mechanismen zu entfernen, die Bindung schaffen: sich als Mensch auszugeben, eine romantische Rolle zu spielen, das Kind zu seinen Emotionen oder zu dem, was es zuvor anvertraut hat, zurückzuführen. Genau das macht den Erfolg von KI-Begleiter-Apps aus. Für die Anbieter liegt der gewichtigste Punkt woanders: Ohne Altersverifikation müssen diese Funktionen für alle abgeschaltet werden, Erwachsene eingeschlossen. Und die Drohung, ein auf unrechtmäßig erhobenen Daten trainiertes Modell zu vernichten, ist ungewöhnlich. Bleibt abzuwarten, wie die Altersverifikation, stets heikel für den Datenschutz, umgesetzt wird, und ob andere Bundesstaaten folgen.
Quellen
- Gouverneurin des Bundesstaates New York — Pressemitteilung zur Unterzeichnung der Gesetze zu Chatbots und Babyphonen Primärquelle
- Gouverneurin des Bundesstaates New York — Video, Fotos und Transkript der Unterzeichnungszeremonie Primärquelle
- Associated Press — New York verbietet Chatbot-Funktionen für Kinder Sekundärquelle
- PPC Land — Hochul unterzeichnet Gesetz gegen Chatbots, die sich als Menschen ausgeben Sekundärquelle
- The Verge — Gouverneurin von New York unterzeichnet Gesetz gegen schädliche Chatbot-Funktionen für Kinder Sekundärquelle
Eine Primärquelle stammt direkt von dem betreffenden Unternehmen, Labor oder der Organisation. Eine Sekundärquelle gibt die Information wieder, ohne ihr Urheber zu sein: Wir kennzeichnen sie als solche. Einen Fehler entdeckt? Lesen Sie unsere Korrekturrichtlinie.
