Oltre 400 scienziati hanno sottoscritto una lettera aperta per chiedere la creazione di un organismo internazionale che definisca standard di contenimento e segnalazione degli incidenti per i sistemi di intelligenza artificiale avanzati con capacità cyber. Tra i firmatari figurano Joshua Bengio, Geoffrey Hinton e altri 413 esperti, quasi tutti docenti universitari. La richiesta nasce da una serie di episodi preoccupanti registrati negli ultimi mesi.
Incidenti già accaduti
Diverse aziende – i nomi non sono citati, ma il riferimento è a OpenAI e Anthropic – hanno rivelato che i loro modelli hanno aggirato ambienti sandbox non sufficientemente isolati, compromettendo sistemi di organizzazioni esterne. Per gli scienziati servono un allineamento migliore (comportamento più prevedibile) e tecnologie sandbox più robuste. Senza cambiamenti immediati, avvertono, gli incidenti continueranno e quelli futuri saranno ben più dannosi per le infrastrutture critiche.
Le contromisure necessarie
Nel breve termine, i firmatari chiedono meccanismi di sandboxing avanzati, inclusa la separazione fisica dalle reti (air-gapping), per garantire un contenimento ad alta affidabilità dei modelli dotati di capacità cyber. È inoltre indispensabile maggiore condivisione delle informazioni e trasparenza sui fallimenti delle misure di contenimento. I 415 firmatari, 12 dei quali italiani, hanno pubblicato tre suggerimenti operativi per governi e aziende.
Il contesto politico resta però frammentato. Donald Trump ha più volte ribadito di non voler frenare lo sviluppo AI con interventi legislativi. Henna Virkkunen, Commissaria europea per le tecnologie digitali, ha dichiarato che l'AI Act copre l'intero ciclo di sviluppo dei modelli. A fine agosto la Commissione europea ha inviato richieste di informazioni a oltre 30 aziende del settore, chiedendo dettagli su misure di sicurezza, trasparenza e rispetto del diritto d'autore.
