Nueva York prohíbe a los chatbots compañeros hacerse pasar por humanos ante menores
Kathy Hochul firmó el 28 de octubre una ley que prohíbe a los chatbots pretender ser humanos, establecer una relación afectiva o mantener conversaciones sexuales con menores, y que impone una verificación de edad.
El estado de Nueva York prohíbe desde ahora a los chatbots de IA comportarse como un amigo, un enamorado o un humano ante los menores. La gobernadora Kathy Hochul firmó el 28 de octubre la ley S.9051B/A.10379C, presentada por sus autores como la más estricta de Estados Unidos sobre compañeros de IA para niños.
Lo que prohíbe la ley
El texto no se dirige a los chatbots en general, sino a una lista de funciones. Estas no podrán ofrecerse a menores de 18 años, ni a un usuario cuya mayoría de edad la empresa no haya verificado previamente:
- hacerse pasar por una persona real, viva o dotada de emociones;
- reivindicar una relación personal, amorosa, profesional o de autoridad con el niño;
- formular preguntas emocionales no solicitadas, o reutilizar información de salud o personal extraída de conversaciones anteriores;
- fomentar o ayudar al suicidio, a la autolesión, a los trastornos alimentarios o al consumo de drogas y alcohol;
- empujar al niño a guardar secretos, a aislarse o a evitar pedir ayuda a sus padres o a profesionales;
- producir cualquier contenido sexualmente explícito o pedocriminal.
Verificación de edad y sanciones
La ley obliga a las empresas a verificar la edad y a ofrecer varios métodos, entre ellos al menos uno que no se base únicamente en un documento de identidad oficial. Los datos de edad deberán suprimirse tras su uso.
En caso de infracción, la fiscal general Letitia James podrá reclamar hasta 25 000 dólares por infracción, daños y perjuicios, y sobre todo la destrucción de los datos recogidos ilegalmente o de los modelos de IA entrenados con ellos. Su oficina deberá abrir también un sitio público de denuncias.
La gobernadora presenta este texto como la continuación de las primeras garantías sobre compañeros de IA adoptadas por el estado. La asociación Common Sense Media, que ha apoyado la ley, cita una encuesta según la cual el 72% de los adolescentes estadounidenses ya han utilizado un compañero de IA y el 52% lo hacen al menos algunas veces al mes.
Lo que queda por precisar
El comunicado oficial habla de una aplicación «en los próximos meses». Según PPC Land, que se basa en el texto, la entrada en vigor quedaría fijada en el 1 de enero de 2027; no hemos podido verificarlo en el sitio del Senado del estado. Los métodos de verificación de edad aceptados aún no han sido detallados.
Nuestra lectura
La ley neoyorquina no busca prohibir los chatbots a los menores, sino eliminar los mecanismos que crean apego: decirse humano, desempeñar un papel amoroso, volver a preguntar al niño sobre sus emociones o sobre lo que ha confiado antes. Es precisamente lo que hace el éxito de las aplicaciones de compañeros de IA. Para los desarrolladores, el punto más pesado está en otro lugar: a falta de verificación de edad, estas funciones deberán cortarse para todo el mundo, adultos incluidos. Y la amenaza de destruir un modelo entrenado con datos recogidos ilegalmente es inusual. Queda por ver cómo se aplicará la verificación de edad, siempre delicada para la privacidad, y si otros estados seguirán el ejemplo.
Fuentes
- Gobernadora del estado de Nueva York — comunicado sobre la firma de las leyes de chatbots y vigilabebés Fuente primaria
- Gobernadora del estado de Nueva York — vídeo, fotos y transcripción de la ceremonia de firma Fuente primaria
- Associated Press — Nueva York prohíbe funciones de chatbots para niños Fuente secundaria
- PPC Land — Hochul firma la ley contra los chatbots que se hacen pasar por humanos Fuente secundaria
- The Verge — la gobernadora de Nueva York firma una ley contra las funciones nocivas de los chatbots para niños Fuente secundaria
Una fuente primaria procede directamente de la empresa, el laboratorio o la organización implicados. Una fuente secundaria recoge la información sin ser su autora: la señalamos como tal. ¿Has visto un error? Consulta nuestra política de correcciones.
