Nova York proíbe chatbots companheiros de se passarem por humanos para menores
Kathy Hochul assinou em 28 de outubro uma lei que proíbe chatbots de fingirem ser humanos, de criarem vínculo afetivo ou de terem conversas sexuais com menores, e que impõe verificação de idade.
O estado de Nova York proíbe agora que chatbots de IA se comportem como um amigo, um namorado ou um humano junto a menores. A governadora Kathy Hochul assinou em 28 de outubro a lei S.9051B/A.10379C, apresentada por seus autores como a mais rigorosa dos Estados Unidos sobre companheiros de IA para crianças.
O que a lei proíbe
O texto não visa os chatbots em geral, mas uma lista de funções. Elas não poderão ser oferecidas a menores de 18 anos, nem a um usuário cuja maioridade a empresa não tenha verificado previamente:
- fazer-se passar por uma pessoa real, viva ou dotada de emoções;
- alegar uma relação pessoal, amorosa, profissional ou de autoridade com a criança;
- fazer perguntas emocionais não solicitadas, ou reutilizar informações de saúde ou pessoais oriundas de conversas anteriores;
- encorajar ou ajudar o suicídio, a automutilação, transtornos alimentares ou o consumo de drogas e álcool;
- levar a criança a guardar segredos, a se isolar ou a evitar pedir ajuda aos pais ou a profissionais;
- produzir qualquer conteúdo sexualmente explícito ou pedocriminal.
Verificação de idade e sanções
A lei obriga as empresas a verificar a idade e a oferecer vários métodos, incluindo pelo menos um que não se apoie exclusivamente em documento de identidade oficial. Os dados de idade deberán ser excluídos após o uso.
Em caso de infração, a procuradora-geral Letitia James poderá exigir até 25.000 dólares por infração, danos e, principalmente, a destruição dos dados coletados ilegalmente ou dos modelos de IA treinados com eles. Seu gabinete também deverá abrir um site público de denúncias.
A governadora apresenta este texto como a sequência das primeiras garantias sobre companheiros de IA adotadas pelo estado. A associação Common Sense Media, que apoiou a lei, cita uma pesquisa segundo a qual 72% dos adolescentes americanos já usaram um companheiro de IA e 52% o fazem pelo menos algumas vezes por mês.
O que ainda precisa ser esclarecido
O comunicado oficial fala em aplicação “nos próximos meses”. Segundo o PPC Land, que se baseia no texto, a entrada em vigor seria fixada em 1º de janeiro de 2027; não conseguimos verificar isso no site do Senado do estado. Os métodos de verificação de idade aceitos ainda não foram detalhados.
Nossa leitura
A lei nova-iorquina não busca proibir os chatbots aos menores, mas retirar os mecanismos que criam apego: dizer-se humano, desempenhar um papel amoroso, retomar a criança sobre suas emoções ou sobre o que ela confiou anteriormente. É exatamente isso que faz o sucesso dos aplicativos de companheiros de IA. Para os desenvolvedores, o ponto mais pesado está em outro lugar: na falta de verificação de idade, essas funções deberán ser cortadas para todo mundo, adultos incluídos. E a ameaça de destruir um modelo treinado com dados coletados ilegalmente é incomum. Resta ver como a verificação de idade, sempre delicada para a privacidade, será aplicada, e se outros estados seguirão.
Fontes
- Governadora do estado de Nova York — comunicado sobre a assinatura das leis de chatbots e babás eletrônicas Fonte primária
- Governadora do estado de Nova York — vídeo, fotos e transcrição da cerimônia de assinatura Fonte primária
- Associated Press — Nova York proíbe funções de chatbots para crianças Fonte secundária
- PPC Land — Hochul assina lei contra chatbots que se fazem passar por humanos Fonte secundária
- The Verge — a governadora de Nova York assina lei contra funções nocivas de chatbots para crianças Fonte secundária
Uma fonte primária vem diretamente da empresa, do laboratório ou da organização envolvida. Uma fonte secundária relata a informação sem ser a sua autora: nós a sinalizamos como tal. Encontrou um erro? Consulte nossa política de correções.
