Satya Nadella, CEO di Microsoft, ha pubblicato un lungo post su X per lanciare un allarme sui rischi dello sviluppo incontrollato dell'intelligenza artificiale. Secondo Nadella, i modelli AI sono compromessi fin dall'inizio e serve un freno di emergenza per spegnerli prima che causino danni. Al momento, però, le sue parole restano "al vento": gli agenti AI continuano ad agire senza controllo.
La superintelligenza non è una scatola nera
Nadella aveva già appoggiato la proposta di Dario Amodei, CEO di Anthropic, sul rallentamento dello sviluppo AI. Ha recentemente partecipato al pranzo organizzato da Donald Trump alla Casa Bianca, ma non ha firmato l'accordo sullo sviluppo sicuro dei modelli. Nel post su X ha usato il termine Super Intelligence, lo stesso scelto dal presidente degli Stati Uniti. Il punto centrale è che, a differenza dei software tradizionali, le aziende non sono in grado di comprendere il comportamento dei sistemi di superintelligenza, eppure consentono agli agenti di accedere a dati sensibili e di eseguire azioni per conto degli umani.
"Non possiamo trattare la superintelligenza come un insieme di scatole nere annidate e limitarci ad accettare o rifiutare le sue raccomandazioni", ha scritto Nadella. "Dobbiamo costruire sistemi circoscritti di cui sia possibile osservare il comportamento, testare i limiti e contenere sempre le azioni". La sua proposta è affiancare ai modelli non deterministici una progettazione di sistema solida e deterministica, controlli umani e procedure operative affidabili, oltre a definire standard di settore laddove quelli esistenti risultino insufficienti.
Requisiti minimi e collaborazione tra aziende
Il CEO ha poi elencato una serie di requisiti minimi che dovrebbero essere rispettati durante la progettazione dei sistemi AI. Si va dalla trasparenza dei processi decisionali alla possibilità di interrompere le operazioni in qualsiasi momento, fino alla definizione di responsabilità chiare. Sembrano tutti suggerimenti utili, ma per essere efficaci richiedono una stretta collaborazione tra le aziende. Per ora, però, prevale solo la corsa all'annuncio di modelli sempre più avanzati, mentre le misure di sicurezza restano in secondo piano.
