La governatrice di New York Kathy Hochul ha firmato la legge S.9051B/A.10379C, un testo che vieta alle aziende di offrire chatbot AI con determinate funzionalità ai minori di 18 anni. La norma introduce l'obbligo di verifica dell'età per accedere a queste tecnologie, seguendo l'impostazione già adottata dall'Australia. Le violazioni saranno punite con sanzioni pesanti, un segnale chiaro verso un settore finora largamente autorevolato.
Cosa non si potrà più fare
Il divieto colpisce i chatbot che fingono di essere esseri umani, creano una dipendenza emotiva, incoraggiano l'autolesionismo o intrattengono conversazioni sessualmente esplicite. Durante la conferenza stampa, Hochul è stata netta: i minori non avranno più accesso a chatbot che si presentano come amici, fidanzati o fidanzate, e a queste piattaforme sarà vietato conservare informazioni sensibili sulla salute emotiva e fisica dei più giovani. Un cambio di rotta radicale rispetto alla logica di coinvolgimento a tutti i costi che caratterizza molte app di intelligenza artificiale conversazionale.
Verifica dell'età e sanzioni
Le aziende dovranno accertare l'età degli utenti con modalità diverse dal solo documento d'identità, e i dati raccolti per la verifica andranno cancellati una volta completata la procedura. I cittadini newyorkesi potranno segnalare le violazioni tramite un sito web dedicato, mentre il procuratore generale potrà citare in giudizio le società e chiedere fino a 25.000 dollari per ogni violazione, oltre alla distruzione dei dati dei minori raccolti illegalmente o del modello AI addestrato con quelle informazioni.
La mossa di New York si inserisce in un quadro normativo in rapida evoluzione. Anche la California ha introdotto una legge sui cosiddetti chatbot da compagnia, mentre alcune misure analoghe sono incluse nel recente EU KIDS Act e in altre proposte del Parlamento europeo. Il tema della protezione dei minori dall'IA conversazionale è ormai al centro dell'agenda politica internazionale, e New York si candida a diventare un laboratorio normativo per gli Stati Uniti.
