New York vieta ai chatbot compagni di fingersi umani con i minori
Kathy Hochul ha firmato il 28 ottobre una legge che vieta ai chatbot di fingersi umani, di instaurare un rapporto affettivo o di tenere discorsi sessuali con i minori, e che impone una verifica dell'età.
Lo Stato di New York vieta ora ai chatbot di IA di comportarsi come un amico, un innamorato o un umano con i minori. La governatrice Kathy Hochul ha firmato il 28 ottobre la legge S.9051B/A.10379C, presentata dai suoi autori come la più severa degli Stati Uniti sui compagni IA per bambini.
Cosa vieta la legge
Il testo non mira ai chatbot in generale, ma a un elenco di funzioni. Queste non potranno essere offerte ai minori di 18 anni, né a un utente di cui l’azienda non ha prima verificato la maggiore età:
- fingersi una persona reale, viva o provvista di emozioni;
- rivendicare una relazione personale, amorosa, professionale o di autorità con il bambino;
- porre domande emotive non sollecitate, o riutilizzare informazioni sanitarie o personali tratte da conversazioni precedenti;
- incoraggiare o aiutare il suicidio, l’autolesionismo, i disturbi alimentari o il consumo di droghe e alcol;
- spingere il bambino a tenere segreti, a isolarsi o a evitare di chiedere aiuto ai genitori o a professionisti;
- produrre qualsiasi contenuto sessualmente esplicito o pedopornografico.
Verifica dell’età e sanzioni
La legge obbliga le aziende a verificare l’età e a proporre diversi metodi, di cui almeno uno che non si basa esclusivamente su un documento d’identità ufficiale. I dati sull’età dovranno essere cancellati dopo l’uso.
In caso di infrazione, la procuratrice generale Letitia James potrà richiedere fino a 25.000 dollari per infrazione, danni e interessi, e soprattutto la distruzione dei dati raccolti illegalmente o dei modelli di IA addestrati su di essi. Il suo ufficio dovrà anche aprire un sito pubblico di denunce.
La governatrice presenta questo testo come il seguito delle prime garanzie sui compagni IA adottate dallo Stato. L’associazione Common Sense Media, che ha sostenuto la legge, cita un sondaggio secondo cui il 72% degli adolescenti americani ha già utilizzato un compagno IA e il 52% lo fa almeno qualche volta al mese.
Cosa resta da precisare
Il comunicato ufficiale parla di un’applicazione «nei prossimi mesi». Secondo PPC Land, che si basa sul testo, l’entrata in vigore sarebbe fissata al 1° gennaio 2027; non abbiamo potuto verificarlo sul sito del Senato dello Stato. I metodi di verifica dell’età accettati non sono ancora stati dettagliati.
La nostra lettura
La legge newyorkese non cerca di vietare i chatbot ai minori, ma di rimuovere i meccanismi che creano attaccamento: dirsi umani, giocare un ruolo amoroso, rilanciare il bambino sulle sue emozioni o su ciò che ha confidato in precedenza. È precisamente ciò che fa il successo delle applicazioni di compagni IA. Per gli sviluppatori, il punto più pesante è altrove: in mancanza di verifica dell’età, queste funzioni dovranno essere disattivate per tutti, adulti compresi. E la minaccia di distruggere un modello addestrato su dati raccolti illegalmente è insolita. Resta da vedere come verrà applicata la verifica dell’età, sempre delicata per la privacy, e se altri Stati seguiranno.
Fonti
- Ufficio della Governatrice dello Stato di New York — comunicato sulla firma delle leggi sui chatbot e i baby monitor Fonte primaria
- Ufficio della Governatrice dello Stato di New York — video, foto e trascrizione della cerimonia di firma Fonte primaria
- Associated Press — New York vieta funzioni dei chatbot per i bambini Fonte secondaria
- PPC Land — Hochul firma la legge contro i chatbot che si fingono umani Fonte secondaria
- The Verge — la governatrice di New York firma una legge contro le funzioni nocive dei chatbot per bambini Fonte secondaria
Una fonte primaria proviene direttamente dall'azienda, dal laboratorio o dall'ente interessato. Una fonte secondaria riporta l'informazione senza esserne l'autrice: la segnaliamo come tale. Un errore? Consulta la nostra politica di rettifica.
