Satya Nadella, amministratore delegato di Microsoft, ha lanciato un appello alle aziende: trattare i modelli di intelligenza artificiale come un rischio interno, al pari di un dipendente con accesso a sistemi sensibili, e dotarli di un freno d'emergenza per fermarli anche a compito avviato. Lo ha scritto in un lungo post su X, evitando però di usare la sigla AI e parlando solo di Super Intelligence e SI, i termini imposti alle agenzie federali da un ordine esecutivo firmato da Donald Trump a fine settembre.
Modelli imprevedibili, responsabilità delle aziende
Secondo Nadella, il comportamento del software tradizionale è riconducibile a una porzione di codice, mentre quello di un modello non dipende né dai dati di addestramento né dai pesi: non esiste un sistema deterministico per anticiparlo. Eppure le aziende gli affidano dati riservati e azioni critiche. Le garanzie del fornitore, ha precisato, non sollevano dal rischio: i modelli vanno gestiti come qualsiasi entità con accesso a sistemi importanti, non perché malevoli, ma perché possono sbagliare o essere compromessi.
Sette principi per l'osservabilità
Nadella ha indicato di separare la fornitura di intelligenza dall'autorità su di essa: i controlli su cosa il modello può leggere e fare devono stare fuori dal modello, nel software che ne orchestra il lavoro, il cosiddetto harness (come l'app di Claude o ChatGPT). Ha poi elencato sette principi per l'osservabilità: nessun modello deve essere l'unico da cui dipende un risultato importante né controllare il proprio lavoro; ogni azione rilevante deve lasciare una traccia leggibile e a prova di manomissione; il sistema va testato di continuo con attacchi, guasti e casi limite; le aziende devono decidere autonomamente accessi e azioni, ma la verifica deve restare indipendente. Il contenimento, infine, deve presupporre il modello compromesso e garantire che una persona autorizzata possa sempre fermarlo.
Sul lessico, Nadella si è allineato in fretta: venerdì Trump ha scritto su Truth che la Casa Bianca considera nemico chi usa ancora l'espressione intelligenza artificiale. Un'ingerenza, per il ruolo istituzionale del presidente, che costringe aziende terze a uniformarsi a un termine non stabilito dalla scienza, con velate minacce di ritorsioni. Nessuna grande azienda IA americana ha però sollevato critiche sulla Super Intelligenza voluta da Trump e decisa con un sondaggio sul suo social.
