Alla conferenza AI Engineer di New York, i rappresentanti di OpenAI e Anthropic hanno svelato come mantengono sotto stretto controllo i loro agenti AI quando vengono impiegati nel settore finanziario. La fiducia nelle proprie creazioni non è cieca: quando in gioco ci sono soldi, le due aziende adottano misure di sicurezza straordinarie.
Il caso di Anthropic
Il 14 ottobre, Keon Shahab di Anthropic ha portato un esempio concreto: un agente AI incaricato di gestire transazioni finanziarie ha commesso un errore che avrebbe potuto causare perdite enormi. L'episodio ha evidenziato la necessità di supervisione umana e di sistemi di controllo automatici in grado di intervenire tempestivamente. Shahab ha spiegato che Anthropic utilizza un approccio a più livelli, con limiti di spesa predefiniti e verifiche costanti sulle operazioni.
Le contromisure di OpenAI
Anche OpenAI ha condiviso la sua strategia: i suoi agenti finanziari operano in ambienti sandbox isolati, dove ogni azione viene registrata e validata prima di essere eseguita sul mercato reale. Inoltre, vengono implementati circuiti di interruzione che bloccano le operazioni in caso di comportamenti anomali. L'obiettivo è chiaro: sfruttare l'efficienza dell'AI senza rischiare il collasso dei sistemi finanziari.
Queste rivelazioni mostrano come le stesse aziende che sviluppano AI all'avanguardia siano le prime a non fidarsi ciecamente dei propri prodotti quando il denaro è in ballo. Una lezione importante per chiunque voglia adottare agenti autonomi in contesti critici.
