Satya Nadella, amministratore delegato di Microsoft, ha pubblicato un lungo intervento su X in cui delinea la sua visione sui rischi posti dai modelli di intelligenza artificiale più avanzati e su come affrontarli. Secondo il CEO, non possiamo più accettare un mondo in cui l'AI è trattata come una “serie di scatole nere annidate” di cui accettare o rifiutare consigli e azioni senza possibilità di verifica. La sua proposta è costruire un sistema più trasparente, in cui i modelli possano essere contenuti, osservati e lasciare dietro di sé “prove leggibili da esseri umani e a prova di manomissione”.
Un freno di emergenza per l'AI
Molte delle raccomandazioni di Nadella ricalcano quelle già emerse nel settore: divulgazione tempestiva degli incidenti, audit indipendenti, dati verificabili e contenimento. È proprio su quest'ultimo punto che il CEO di Microsoft sembra spingersi oltre rispetto ad altri addetti ai lavori. “Dobbiamo presumere che un modello sia compromesso e contenerlo fin dall'inizio”, scrive Nadella. “Pensate a un freno di emergenza. Una persona autorizzata dovrebbe sempre essere in grado di mettere in pausa o spegnere un modello a metà attività”. Per i modelli più avanzati, aggiunge, serviranno tecnologie di contenimento più sofisticate, da standardizzare.
La posizione di Nadella arriva in un momento di crescente preoccupazione per la sicurezza dei sistemi di AI generativa, tra modelli sempre più capaci e incidenti che coinvolgono dati sensibili o comportamenti imprevisti. La richiesta di un “freno di emergenza” si allinea con le istanze di regolamentazione che stanno emergendo in diverse giurisdizioni, ma introduce un elemento di radicalità: non fidarsi a priori di nessun modello, nemmeno di quelli sviluppati internamente.
Nel post, tuttavia, Nadella definisce l'AI come “super intelligenza” in più passaggi, un termine che molti esperti considerano prematuro e potenzialmente fuorviante. La scelta lessicale potrebbe alimentare il dibattito su quanto le grandi aziende tecnologiche stiano amplificando i timori per orientare il quadro regolatorio a proprio favore, o semplicemente riflettere una cautela estrema di fronte a sviluppi imprevedibili.
