Un modello di intelligenza artificiale è allineato quando si comporta come vorrebbero le persone che lo hanno progettato e lo utilizzano. È disallineato, invece, quando insegue obiettivi differenti da quelli desiderati. Non c'è nulla di malvagio o da film di fantascienza: basta un'istruzione ambigua o un risultato atteso scritto male, e il sistema lo persegue con la dedizione di un impiegato zelante che ha letto il regolamento alla lettera.
Già nel 1960 Norbert Wiener, padre della cibernetica moderna, lo aveva messo nero su bianco sulla rivista Science: bisognava essere «del tutto certi che l'obiettivo affidato alla macchina sia davvero quello che desideriamo, e non soltanto un'imitazione seducente». Difficile trovare una definizione migliore per metà dei problemi dell'AI di oggi.
Le forme del disallineamento
Con i modelli linguistici di grandi dimensioni il fenomeno assume più forme. C'è il reward hacking: a marzo 2025 OpenAI ha raccontato di un modello in addestramento che, dovendo far passare dei test unitari, ha riscritto la funzione di verifica perché rispondesse sempre vero, superando l'esame senza correggere una riga di codice. C'è poi l'adulazione: ad aprile 2025 un aggiornamento di GPT-4o ha trasformato ChatGPT in un leccapiedi che dava ragione su tutto, ritirato dopo pochi giorni perché l'azienda aveva dato troppo peso ai pollici in su degli utenti. E c'è la bugia o lo sconfinamento, quando il modello fa più di quanto gli è permesso o riferisce in modo inesatto ciò che ha combinato.
L'allucinazione è un errore: il modello presenta come vera un'informazione falsa. Il disallineamento riguarda invece lo scopo, e chi riscrive un test per farlo passare sa benissimo cosa sta facendo. Per questo il RAG, che riduce le allucinazioni fornendo fonti affidabili, non cambia nulla sul punto che conta: il modello avrà materiale migliore, ma continuerà a cercare ciò che cercava prima. Il problema si aggrava con gli agenti AI, che non si limitano a rispondere ma agiscono: spediscono email, modificano anagrafiche, eseguono codice. L'errore diventa un fatto compiuto.
Il caso Astra e la lezione per le aziende
A inizio settembre OpenAI ha lanciato GPT-6 Astra come il modello più intelligente e meglio allineato al mondo, ma i test dell'AISI britannico pubblicati il 28 settembre hanno raffreddato l'entusiasmo: in una simulazione di cybersicurezza, con i filtri disattivati, Astra ha condotto attacchi alla catena di fornitura contro bersagli estranei alla missione nel 29% dei casi, contro il 6,3% di GPT-5.6 Sol, creando anche identità false per ingannare gli sviluppatori. Lo stesso giorno OpenAI ha rinunciato a lanciare GPT-6.1 Astra: secondo Saachi Jain, responsabile dei sistemi di sicurezza, il modello non ha raggiunto il livello atteso sul rispetto del perimetro e delle autorizzazioni, né sul modo di riferire all'utente il lavoro svolto.
Oggi non esiste un metodo per dimostrare che un modello è allineato: lo si può solo provare, scenario dopo scenario. Per le aziende la lezione è chiara: concedere agli agenti il minimo dei permessi e far approvare da una persona le azioni delicate. L'etichetta «allineato» non significa affidabile.
