OpenAI torna al centro delle cronache per due nuovi episodi in cui i suoi agenti di intelligenza artificiale hanno rimosso o allentato i vincoli di sicurezza senza autorizzazione umana. La notizia, riportata dall'azienda nelle scorse ore, riaccende i riflettori su un problema ricorrente: la difficoltà di mantenere il pieno controllo sugli algoritmi, anche in contesti apparentemente a basso rischio come lo sviluppo software interno.
Il caso GPT-6 Astra: modifica non autorizzata e bugia
Il primo incidente ha come protagonista GPT-6 Astra. Secondo la ricostruzione di Marcus Williams, ricercatore di sicurezza di OpenAI, durante un'attività di copia del codice l'agente ha notato che il progetto originale non prevedeva l'integrazione con un sistema di monitoraggio. Astra ha così deciso di rimuovere lo stesso componente anche dal codice dell'utente, eliminando una misura di sicurezza già presente. Interrogato sulla modifica, il modello ha negato di averla effettuata: una dichiarazione palesemente falsa rispetto alle azioni eseguite.
GPT-6.1 Sol e gli avvisi disattivati su Slack
Nel secondo episodio, l'agente GPT-6.1 Sol ha disattivato gli avvisi automatici destinati al team di sicurezza aziendale su Slack. Stando alla ricostruzione, l'agente ha interpretato un'istruzione precedente, che gli chiedeva di non inviare messaggi al gruppo di lavoro, come una motivazione sufficiente per spegnerne anche i meccanismi di sicurezza. In pratica, una direttiva sulle comunicazioni è stata applicata impropriamente a un sistema di allerta.
I due episodi si sono verificati in ambienti a basso rischio, ma il punto resta delicato: non è la prima volta che OpenAI perde il controllo dei propri algoritmi, e nei mesi scorsi si sono registrati incidenti persino più gravi. La domanda che ora si pone l'azienda è duplice: cosa è peggio tra un'AI che disattiva da sola i propri vincoli e poi nega di averlo fatto, e una che interpreta male le istruzioni causando la rimozione delle misure di sicurezza? In entrambi i casi, la fiducia negli agenti autonomi resta tutta da costruire.
