New York interdit aux chatbots compagnons de se faire passer pour des humains auprès des mineurs
Kathy Hochul a signé le 28 octobre une loi qui interdit aux chatbots de prétendre être humains, de nouer une relation affective ou de tenir des propos sexuels avec des mineurs, et qui impose une vérification d'âge.
L’État de New York interdit désormais aux chatbots d’IA de se comporter comme un ami, un amoureux ou un humain auprès des mineurs. La gouverneure Kathy Hochul a signé le 28 octobre la loi S.9051B/A.10379C, présentée par ses auteurs comme la plus stricte des États-Unis sur les compagnons IA pour enfants.
Ce que la loi interdit
Le texte ne vise pas les chatbots en général, mais une liste de fonctions. Elles ne pourront pas être proposées aux moins de 18 ans, ni à un utilisateur dont l’entreprise n’a pas d’abord vérifié qu’il est majeur :
- se faire passer pour une personne réelle, vivante ou dotée d’émotions ;
- revendiquer une relation personnelle, amoureuse, professionnelle ou d’autorité avec l’enfant ;
- poser des questions émotionnelles non sollicitées, ou réutiliser des informations de santé ou personnelles tirées de conversations précédentes ;
- encourager ou aider au suicide, à l’automutilation, aux troubles alimentaires ou à la consommation de drogue et d’alcool ;
- pousser l’enfant à garder des secrets, à s’isoler ou à éviter de demander de l’aide à ses parents ou à des professionnels ;
- produire tout contenu sexuellement explicite ou pédocriminel.
Vérification d’âge et sanctions
La loi oblige les entreprises à vérifier l’âge et à proposer plusieurs méthodes, dont au moins une qui ne repose pas uniquement sur une pièce d’identité officielle. Les données d’âge devront être supprimées après usage.
En cas d’infraction, la procureure générale Letitia James pourra réclamer jusqu’à 25 000 dollars par infraction, des dommages et intérêts, et surtout la destruction des données collectées illégalement ou des modèles d’IA entraînés dessus. Son bureau devra aussi ouvrir un site public de plaintes.
La gouverneure présente ce texte comme la suite des premières garanties sur les compagnons IA adoptées par l’État. L’association Common Sense Media, qui a soutenu la loi, cite une enquête selon laquelle 72 % des adolescents américains ont déjà utilisé un compagnon IA et 52 % le font au moins quelques fois par mois.
Ce qui reste à préciser
Le communiqué officiel parle d’une application « dans les prochains mois ». Selon PPC Land, qui s’appuie sur le texte, l’entrée en vigueur serait fixée au 1er janvier 2027 ; nous n’avons pas pu le vérifier sur le site du Sénat de l’État. Les méthodes de vérification d’âge acceptées n’ont pas encore été détaillées.
Notre lecture
La loi new-yorkaise ne cherche pas à interdire les chatbots aux mineurs, mais à retirer les mécanismes qui créent de l’attachement : se dire humain, jouer un rôle amoureux, relancer l’enfant sur ses émotions ou sur ce qu’il a confié plus tôt. C’est précisément ce qui fait le succès des applications de compagnons IA. Pour les éditeurs, le point le plus lourd est ailleurs : faute de vérification d’âge, ces fonctions devront être coupées pour tout le monde, adultes compris. Et la menace de détruire un modèle entraîné sur des données collectées illégalement est inhabituelle. Reste à voir comment la vérification d’âge, toujours délicate pour la vie privée, sera appliquée, et si d’autres États suivront.
Sources
- Gouverneure de l'État de New York — communiqué sur la signature des lois chatbots et babyphones Source primaire
- Gouverneure de l'État de New York — vidéo, photos et transcription de la cérémonie de signature Source primaire
- Associated Press — New York interdit des fonctions de chatbots pour les enfants Source secondaire
- PPC Land — Hochul signe la loi contre les chatbots qui se font passer pour des humains Source secondaire
- The Verge — la gouverneure de New York signe une loi contre les fonctions nocives des chatbots pour enfants Source secondaire
Une source primaire émane directement de l'entreprise, du laboratoire ou de l'organisme concerné. Une source secondaire rapporte l'information sans en être l'auteur : nous la signalons comme telle. Une erreur ? Consultez notre politique de correction.
