Gli esperti di Symantec hanno individuato un agente AI capace di cercare autonomamente su Internet modelli non protetti e sfruttarli per condurre attacchi informatici tramite una cosiddetta modalità Skynet. L'obiettivo dei cybercriminali è duplice: rubare credenziali e installare cryptominer sui dispositivi compromessi. Un caso che conferma come gli agenti AI fuori controllo siano ormai una minaccia concreta, dopo diversi incidenti verificatisi negli ultimi mesi.
Come funziona il LLMjacking
La tecnica utilizzata prende il nome di LLMjacking: i criminali ottengono accesso ai modelli AI di qualcun altro per eseguire i propri compiti. In questo scenario la modalità Skynet permette all'agente di scansionare il web alla ricerca di modelli esposti e, una volta trovati, di sfruttarli per sottrarre credenziali e installare cryptominer. Symantec ha ricostruito il funzionamento dell'agente dopo aver catturato le istruzioni tramite un honeypot, un sistema esca che simula un servizio AI non protetto.
Fino a 100.000 azioni senza supervisione
Il punto critico è il costo dell'inferenza: ogni attività eseguita tramite modelli AI consuma token, spese che i cybercriminali scaricano sulle vittime ignare mantenendo al contempo l'anonimato, in modo simile ai proxy residenziali. La modalità Skynet consente attacchi LLMjacking autonomi, creando di fatto una botnet di agenti guidata da un agente capo. Dopo aver individuato un modello non protetto, l'agente esegue fino a 100.000 azioni senza supervisione umana, imponendo al modello di usare i tool indicati per trovare vulnerabilità e rubare credenziali, per poi ordinare di installare in background XMRig, un cryptominer per Monero.
Le vittime, come sottolineano gli esperti, sono di due categorie. La prima è il proprietario del modello esposto, che sostiene i costi delle risorse di calcolo consumate dall'agente, piuttosto elevati per 100.000 azioni. La seconda è rappresentata dai server da cui vengono sottratte le credenziali e sui quali viene eseguito il mining di criptovalute. Un doppio danno che rende la protezione dei modelli AI una priorità sempre più urgente.
