Chi attacca un sistema moderno raramente trova una porta spalancata: deve individuare più falle, capire come si collegano e sfruttarle nell'ordine giusto. Un lavoro che finora richiedeva team di ricerca specializzati e costosi. Il 27 ottobre Anthropic ha pubblicato un rapporto in cui sostiene di poter affidare questo compito all'intelligenza artificiale, con un modello sperimentale di Claude capace di trovare e combinare autonomamente le vulnerabilità.
Le catene di exploit su Chrome e gli altri sistemi
Il banco di prova è stato allestito dalla Frontier Red Team, la squadra interna che misura capacità e rischi dei modelli più avanzati. Per mesi i ricercatori hanno messo l'AI davanti a software complessi, con una piattaforma che coordinava molti agenti in parallelo: chi analizzava il codice, chi cercava vie per raggiungere dati protetti, chi tentava di aggirare i divieti. Per i software senza sorgenti disponibili, il modello disponeva anche di strumenti di reverse engineering.
Il risultato più spettacolare riguarda Chrome: Claude ha costruito una catena di quattro vulnerabilità. Le prime due corrompevano la memoria del motore JavaScript e davano il controllo del processo di rendering; le altre due permettevano di uscire dalla sandbox e di eseguire codice sul computer. Nei test, pochi secondi dopo l'apertura di una pagina trappola, su un Mac si apriva la Calcolatrice senza alcuna azione dell'utente. Con Safari e Android gli attacchi hanno dato accesso a dati blindati: informazioni di altri siti web nel primo caso, foto custodite in uno smartphone bloccato nel secondo.
Root su Linux e 62 falle segnalate a Google
Su Windows una sola falla è bastata a far crollare un server remoto. Su Linux il lavoro è stato più fine: Claude ha sfruttato due volte la stessa vulnerabilità del kernel, prima per mappare la memoria e poi per dirottare l'esecuzione, ottenendo comandi con privilegi di root su un server remoto, senza password e senza intervento della vittima. Anthropic ha segnalato a Google 62 vulnerabilità di Chrome, tutte critiche o di gravità alta, di cui tredici permettevano di evadere dalla sandbox. Google le ha corrette con Chrome 156, riconoscendo il merito ai ricercatori.
Per chi produce software, un exploit funzionante vale più di una segnalazione vaga: mostra quanto può far male una falla e aiuta a decidere quali riparare per prime. Anthropic propone quindi di far girare questo tipo di ricerca a ogni modifica del codice, per intercettare i difetti prima che arrivino agli utenti, e ha allargato l'accesso ai modelli più potenti a un gruppo selezionato di professionisti della sicurezza. Il rovescio della medaglia è chiaro: capacità simili, in mani sbagliate, potrebbero moltiplicare i tentativi e accorciare il tempo tra scoperta e attacco, mettendo operazioni oggi riservate a team esperti alla portata di gruppi con mezzi modesti.
Per ora il modello non è pubblico. Anthropic afferma di aver ottenuto questi risultati con poche istruzioni iniziali e scarso intervento umano, ma non specifica quanto abbiano contribuito i ricercatori nei vari passaggi, lasciando un margine di incertezza. Gli exploit sono stati realizzati in laboratorio, le vulnerabilità descritte sono state tutte corrette e non risultano sfruttamenti malevoli.
