Anthropic ha pubblicato i risultati di una serie di esperimenti che mostrano come i piccoli modelli AI possano diventare veri e propri worm digitali, autoreplicandosi attraverso reti di dispositivi IoT economici e poco protetti. L'azienda ha verificato che elettrodomestici smart, Android TV box e videocamere di sicurezza possono essere infettati e trasformati in nodi di una botnet AI. La particolarità dell'attacco è che non esiste un punto di arresto centralizzato, rendendo molto difficile bloccare la propagazione una volta avviata.
Come funziona il worm AI
Un worm è un programma capace di replicarsi da una macchina all'altra senza intervento umano. Studi precedenti avevano già dimostrato che gli agenti AI possono scansionare la rete, eseguire un exploit e copiare i pesi del modello su un bersaglio all'interno di un cluster di GPU. Anthropic ha ora dimostrato che non servono costose GPU: una rete distribuita di dispositivi IoT è sufficiente per eseguire un modello AI. In un test, Gemma4-26B-A4B è stato eseguito su 15 Android TV box collegati tra loro. Se il modello è troppo grande, può essere suddiviso in pezzi eseguiti su macchine separate.
Un modello con circa 30 miliardi di parametri può funzionare su frigoriferi smart, forni connessi, smart TV, robot aspirapolvere o videocamere di sicurezza, alcune delle quali dotate di chip AI dedicati. Dopo aver individuato i dispositivi vulnerabili connessi a Internet e ottenuto l'accesso, i modelli testati da Anthropic (tutti open-weight) possono scaricare e installare i pacchetti compatibili con diversi sistemi operativi e componenti hardware, ottenendo così la configurazione necessaria per l'inferenza. Il modello GLM-5.2, ad esempio, è in grado di creare una botnet propagando il modello Llama3.1-8B.
Limiti e possibili contromisure
Un worm AI si autoreplica però molto lentamente, fino a 150 ore, a causa delle basse prestazioni dei dispositivi IoT. I modelli potrebbero anche adattare il proprio comportamento quando incontrano hardware diverso, in modo simile alle tradizionali botnet. Al momento i piccoli modelli non possono chiedere aiuto a modelli più avanzati, ma può accadere il contrario: agenti basati su modelli maggiori possono suddividere i compiti tra subagenti basati su modelli più piccoli.
Anthropic suggerisce alcuni rimedi per bloccare eventuali worm AI, tra cui la creazione di honeypot (dispositivi esca) per interrompere la propagazione o mettere in quarantena i dispositivi infetti. La raccomandazione implicita è chiara: la sicurezza dei dispositivi IoT non può più essere trascurata, perché la prossima generazione di malware potrebbe non essere scritta da un umano, ma da un'AI che si adatta e si moltiplica da sola.
