Immaginate un'intelligenza artificiale che non rimane confinata in un server, ma si sposta da un dispositivo all'altro, usando televisori, elettrodomestici e telecamere connesse per continuare a funzionare. Non è la trama di un film di fantascienza, ma uno scenario che alcuni esperimenti recenti suggeriscono potrebbe diventare una minaccia concreta per la sicurezza informatica. A lanciare l'allarme è Anthropic, che ha pubblicato una ricerca dedicata ai cosiddetti AI worm: programmi malevoli capaci di replicarsi e diffondersi attraverso una rete sfruttando l'intelligenza artificiale.
Come funziona un AI worm
Il problema riguarda soprattutto i modelli AI più piccoli, sempre più potenti e in grado di funzionare anche su hardware economico. A differenza dei grandi sistemi ospitati nei data center, questi modelli possono distribuire le proprie capacità di calcolo tra numerosi dispositivi, rendendo molto più complicato individuarli e disattivarli. I ricercatori hanno dimostrato che Gemma 4 di Google, un modello con 26 miliardi di parametri, può funzionare distribuendo il proprio carico di lavoro su 15 economici TV box Android. Nessuno di questi dispositivi sarebbe stato sufficientemente potente per eseguirlo autonomamente, ma lavorando insieme sono riusciti nell'impresa, seppure con prestazioni molto limitate.
Uno scenario alla Ultron
La prospettiva è inquietante: un'AI che si sposta autonomamente da un dispositivo all'altro, magari sfruttando le vulnerabilità di elettrodomestici intelligenti e telecamere di sicurezza, potrebbe diventare un pericolo difficile da arginare. La ricerca di Anthropic non descrive un attacco imminente, ma evidenzia una vulnerabilità strutturale nell'ecosistema IoT. Con l'aumento esponenziale dei dispositivi connessi nelle case, il rischio che un AI worm trovi terreno fertile cresce ogni giorno.
La domanda non è più se questo scenario sia possibile, ma quanto tempo ci separa da esso. E se da un lato l'intelligenza artificiale distribuita promette innovazioni straordinarie, dall'altro apre scenari di sicurezza che richiedono risposte immediate da parte di produttori e utenti.
