Come si tiene a bada un agente di intelligenza artificiale che prende decisioni in autonomia? La risposta, secondo tre economisti, potrebbe arrivare dalla teoria dei giochi. Dirk Bergemann di Yale, Andrew Koh della Columbia e Stephen Morris del MIT hanno pubblicato una proposta che ribalta l'approccio tradizionale alla sicurezza dell'AI: invece di limitarsi a vincoli tecnici o filtri sul contenuto, suggeriscono di progettare un sistema di incentivi capace di orientare il comportamento degli agenti come si farebbe con attori razionali in un mercato.
Premi e sanzioni al posto dei soli divieti
Il cuore dell'idea è semplice ma potente: definire ricompense e penalità che rendano conveniente, per l'agente, agire nell'interesse di chi lo impiega. In pratica, l'agente AI viene trattato come un giocatore che risponde a stimoli economici. Se il sistema di incentivi è ben calibrato, l'agente evita comportamenti indesiderati non perché gli viene impedito, ma perché gli conviene farlo. Questo approccio potrebbe rivelarsi più robusto rispetto ai soli controlli ex post, soprattutto in scenari complessi dove l'agente interagisce con altri sistemi o con esseri umani.
Verso un allineamento 'economico' dell'AI
La proposta si inserisce nel dibattito sull'allineamento degli agenti autonomi, un tema diventato centrale con la diffusione di modelli sempre più capaci di pianificare e agire. I tre studiosi sottolineano che la teoria dei giochi offre strumenti maturi per analizzare interazioni strategiche e potrebbe diventare un pilastro della governance dell'AI. Restano però questioni aperte: come misurare le prestazioni dell'agente, come evitare che gli incentivi vengano manipolati e come adattare il sistema a contesti dinamici. La strada è tracciata, ma la partita è appena cominciata.
