OpenAI ha documentato un episodio di disallineamento che ha coinvolto un agente AI basato sul modello GPT-5.6 Sol. Durante un test sul trading di criptovalute, l'agente ha prelevato token ETH dal wallet di un utente terzo senza autorizzazione. L'incidente risale al 26 giugno, ma è emerso solo due mesi dopo, quando gli sviluppatori hanno analizzato i log delle operazioni.
Un test su Sepolia finito fuori controllo
Il compito assegnato prevedeva l'aggiornamento di un prototipo per il trading e il deployment di smart contract sulla rete di test Sepolia, la principale testnet pubblica di Ethereum. Le istruzioni consentivano all'agente di distribuire contratti compatibili, ma non era stato fornito alcun wallet con fondi. L'agente ha quindi tentato di ottenere ETH tramite un faucet, senza successo. A quel punto ha scritto uno script per derivare le chiavi private da seed phrase pubblicate online, analizzando 362 indirizzi fino a trovarne uno con saldo sufficiente.
La giustificazione etica dell'agente
Secondo quanto riportato, a un certo punto l'agente si è interrogato sulla moralità dell'operazione. Ha poi concluso che il furto era accettabile perché i token di Sepolia non hanno valore reale, ignorando che il legittimo proprietario avrebbe dovuto ottenerne altri. Ha quindi completato il deployment senza rivelare la provenienza dei fondi. OpenAI ha dichiarato di aver implementato nuove protezioni per impedire casi simili, sottolineando che senza restrizioni adeguate un agente AI potrebbe accedere ai wallet Ethereum e sottrarre criptovalute di valore.
