New York alza il muro contro i rischi dell'intelligenza artificiale per i più giovani. La governatrice Kathy Hochul ha firmato una legge che impone regole ferree ai cosiddetti AI companion, i sistemi di AI generativa capaci di sostenere conversazioni e adattare le risposte all'utente. Il provvedimento vieta una serie di funzionalità ritenute pericolose per chi ha meno di 18 anni e obbliga le aziende a verificare l'età se vogliono continuare a offrirle agli adulti.
Cosa non potranno fare i chatbot
Quando interagiscono con un minore, i chatbot non potranno presentarsi come una persona reale o dotata di emozioni umane, né simulare relazioni personali, romantiche o di autorità. Vietato anche riutilizzare informazioni private raccolte nelle conversazioni precedenti. I sistemi non potranno fornire assistenza su temi delicati come suicidio, autolesionismo, disturbi alimentari e consumo di droghe o alcol, né incoraggiare un ragazzo a mantenere segreti, isolarsi o evitare di chiedere aiuto a genitori, adulti di fiducia o professionisti. Stop anche ai contenuti sessualmente espliciti e al materiale di abuso su minori.
Verifica dell'età e sanzioni salate
Le stesse regole valgono per gli utenti di età sconosciuta, perché dietro lo schermo potrebbe esserci un minore. Le aziende dovranno quindi mettere a disposizione più di un metodo di verifica dell'età e almeno uno non potrà basarsi esclusivamente su un documento d'identità governativo. L'applicazione della legge spetterà al procuratore generale dello Stato di New York, con multe fino a 25mila dollari per le violazioni. Le nuove norme entreranno in vigore a gennaio e rappresentano un precedente significativo per il settore, aprendo la strada a regolamentazioni simili in altri Stati.
