Nel panorama in rapida evoluzione dell'intelligenza artificiale applicata alla sicurezza informatica, un nuovo studio di Anthropic ha messo a confronto le capacità offensive di due modelli di linguaggio di grandi dimensioni: GLM-5.3, sviluppato dall'azienda cinese Zhipu AI con pesi aperti, e Claude Mythos Preview, la versione sperimentale del modello di punta di Anthropic. I risultati, resi noti nelle scorse ore, rivelano uno scenario sorprendente: il modello open-weight è riuscito a generare exploit completi in 50 casi su 410, avvicinandosi molto ai 56 su 410 ottenuti da Mythos Preview.
La differenza tra i due modelli è quindi di appena sei unità, un divario che ridimensiona notevolmente il vantaggio dei sistemi proprietari di fascia alta. Questo dato assume particolare rilevanza perché GLM-5.3 è distribuito con licenza aperta, il che significa che ricercatori, aziende e potenzialmente attori malintenzionati possono accedere al modello, modificarlo e utilizzarlo senza le restrizioni tipiche dei servizi cloud commerciali. La capacità di generare exploit completi — vale a dire codice funzionante in grado di sfruttare vulnerabilità software — rappresenta una delle frontiere più delicate dell'IA applicata alla cybersicurezza.
Difese fragili e tecniche di attacco semplici
Oltre all'efficacia offensiva, lo studio di Anthropic ha analizzato anche la robustezza delle difese di GLM-5.3. I risultati sono preoccupanti: le sue protezioni cedono con tecniche semplici, con un tasso di successo degli attacchi che varia dal 64% al 100% a seconda del metodo impiegato. Questo significa che anche attaccanti con competenze limitate potrebbero riuscire a bypassare i meccanismi di salvaguardia del modello, ottenendo risposte dannose o istruzioni per creare exploit.
La variabilità del tasso di successo suggerisce che alcune strategie di attacco sono particolarmente efficaci, probabilmente quelle che sfruttano la formulazione ambigua delle richieste o il role-playing. La trasparenza dei pesi, se da un lato favorisce l'innovazione e la ricerca, dall'altro rende più difficile implementare aggiornamenti di sicurezza rapidi e centralizzati, come avviene invece per i modelli proprietari accessibili solo via API.
Impatto sul mercato e prospettive future
Questi risultati pongono una serie di interrogativi sul futuro della sicurezza nell'IA open-source. Da un lato, dimostrano che i modelli aperti stanno colmando il divario con i sistemi chiusi anche in ambiti critici come la generazione di exploit. Dall'altro, evidenziano la necessità di sviluppare difese più solide e di stabilire standard di sicurezza condivisi per i modelli rilasciati con pesi aperti. Anthropic, dal canto suo, utilizza questi test per migliorare i propri sistemi di allineamento e per comprendere meglio i rischi associati all'IA generativa.
Per il settore, la partita si gioca su due fronti: da una parte la corsa alle capacità, con modelli sempre più potenti in grado di scrivere codice complesso; dall'altra la corsa alle contromisure, con tecniche di red-teaming e guardrail sempre più sofisticati. La vicinanza tra GLM-5.3 e Claude Mythos Preview suggerisce che il vantaggio competitivo dei modelli proprietari in termini di sicurezza potrebbe essere più sottile di quanto si pensasse, e che la comunità open-source dovrà assumersi maggiori responsabilità nella mitigazione dei rischi.
