Un esame per ChatGPT e per tutti i modelli di intelligenza artificiale generativa: è questa una delle proposte contenute nel rapporto di 177 pagine consegnato a Emmanuel Macron da una commissione di nove esperti incaricata dall'Eliseo. Il documento analizza i rischi dell'IA generativa per le persone più fragili e suggerisce un sistema di certificazione obbligatorio per i chatbot, che dovrebbero dimostrare di superare test specifici prima di poter operare sul mercato francese.
Un esame per i chatbot
Secondo gli esperti, i modelli come ChatGPT dovrebbero essere sottoposti a verifiche periodiche per garantire che non producano contenuti dannosi, discriminatori o pericolosi per gli utenti vulnerabili. Il rapporto propone un esame che valuti la capacità dei sistemi di riconoscere e gestire situazioni sensibili, come richieste di consigli medici, finanziari o legali, e di evitare risposte fuorvianti. L'obiettivo è creare un quadro normativo chiaro che bilanci innovazione e tutela dei cittadini.
Le implicazioni per il settore
La proposta francese si inserisce nel più ampio dibattito europeo sull'AI Act, il regolamento comunitario che classifica i sistemi di intelligenza artificiale in base al rischio. Se adottata, la misura potrebbe diventare un modello per altri Paesi, ma solleva anche interrogativi sulle tempistiche e sui costi per le aziende. Gli sviluppatori temono che esami troppo rigidi possano rallentare l'innovazione, mentre i sostenitori sottolineano la necessità di proteggere gli utenti più esposti. Il governo francese non ha ancora annunciato se e come intenderà recepire le raccomandazioni, ma il dibattito è destinato a intensificarsi nelle prossime settimane.
