Microsoft Research ha rivelato i dettagli di Lazarus, una tecnica di attacco che consente di impiantare una backdoor nei modelli linguistici di grandi dimensioni agendo su una manciata di neuroni. La scoperta, pubblicata dal team di ricerca, dimostra che la sicurezza delle IA generative è più fragile di quanto si pensasse: non serve un lungo riaddestramento, né un accesso massiccio ai parametri del modello.
Come funziona l'attacco Lazarus
La tecnica sfrutta i neuroni dormienti, ovvero unità che normalmente non si attivano durante l'elaborazione standard. Modificandone meno di dieci, i ricercatori sono riusciti a inserire un comportamento malevolo latente. Il modello continua a funzionare regolarmente e supera i consueti test di sicurezza, perché la backdoor si manifesta solo quando viene soddisfatta una condizione specifica, un trigger nascosto che l'utente malintenzionato può controllare. In pratica, l'IA si comporta come un cavallo di Troia: apparentemente innocua, ma pronta a eseguire comandi indesiderati al momento giusto.
Implicazioni per la sicurezza delle IA
La portata della scoperta è notevole. Lazarus non richiede la compromissione dell'intero addestramento, ma solo un intervento chirurgico su pochi parametri, rendendo l'attacco più rapido e difficile da individuare rispetto ai metodi tradizionali. Microsoft Research sottolinea che i sistemi di verifica attuali non sono progettati per scovare queste backdoor a bassa intensità, e che la minaccia riguarda sia i modelli open source sia quelli proprietari. La ricerca apre un dibattito urgente su come rendere i modelli linguistici più trasparenti e resistenti a manipolazioni mirate, prima che la tecnica possa essere replicata da attori malintenzionati.
