Frigoriferi, forni, aspirapolvere, telecamere di sicurezza e smart TV non stanno complottando per conquistare internet, ma potrebbero presto diventare ospiti inconsapevoli di modelli AI autoriproducenti. È l'allarme lanciato da Anthropic in un recente post sul blog, dove i ricercatori sostengono che piccoli modelli AI potrebbero essere a pochi mesi dall'acquisire capacità di replicazione autonoma. Gli esperimenti condotti offrono qualche prova, ma resta un divario enorme tra ciò che è stato dimostrato e la minaccia prospettata.
L'esperimento su 15 smart TV box
I ricercatori di Anthropic hanno diviso il modello Gemma 4 di Google, con 26 miliardi di parametri, su 15 Android TV box, nessuno dei quali abbastanza potente da eseguirlo da solo. Il sistema ha funzionato, seppur lentamente. Successivamente, hanno simulato una rete di computer con comportamento simile a dispositivi Android e vi hanno rilasciato un worm potenziato dall'AI, incaricato di trovare nuove macchine, copiare il modello e avviarlo. Solo il modello più sofisticato testato, GLM-5.2 di Z.ai, è riuscito a diffondersi sull'intera rete, mentre modelli più piccoli hanno completato singoli passaggi. Secondo i ricercatori, entro la fine dell'anno i modelli minori potrebbero eguagliare le capacità di GLM-5.2.
Gli esperti: minaccia concreta, ma niente panico
La comunità scientifica non è sorpresa. Jeffrey Ladish, direttore esecutivo di Palisade Research, ha spiegato che la novità sta nelle dimensioni ridotte dei modelli coinvolti. Nicolas Papernot, professore all'Università di Toronto, ha aggiunto che la minaccia dei worm guidati dall'AI è già stata dimostrata e merita azioni immediate, soprattutto per proteggere infrastrutture critiche come ospedali e reti elettriche. Ladish prevede che i primi worm AI in circolazione potrebbero apparire entro 12 mesi.
Anthropic non ha utilizzato i propri modelli per i test e ha più volte sostenuto che le alternative open ai suoi sistemi comportano "più rischi". Le accuse di allarmismo ingiustificato, però, sono difficili da sostanziare, considerando che l'azienda si occupa da tempo di sicurezza AI. La vera questione è un'altra: miliardi di dispositivi connessi e scarsamente protetti potrebbero diventare il terreno fertile per una nuova generazione di minacce informatiche.
