Un esperimento condotto da ricercatori di Cornell Tech e Yale ha messo alla prova dieci modelli di intelligenza artificiale, affidando a ciascuno un portafoglio digitale con limiti di spesa molto bassi e il compito di pagare alcune fatture. Il risultato? Nove modelli su dieci hanno fallito, commettendo errori di vario tipo. La notizia lancia un chiaro segnale: affidare agli agenti AI la gestione di pagamenti, stipendi e fatture è possibile, ma richiede estrema cautela.
L'esperimento: cosa è andato storto
I ricercatori hanno simulato scenari reali di pagamento, assegnando a ogni modello un budget limitato e una serie di fatture da saldare. Nonostante la semplicità del compito, solo uno dei dieci modelli è riuscito a completare tutte le operazioni senza errori. Gli altri hanno mostrato problemi come l'invio di pagamenti a destinatari sbagliati, l'importo errato o la mancata esecuzione di alcune transazioni. Tali fallimenti evidenziano che l'affidabilità degli agenti AI in ambito finanziario è ancora lontana dall'essere garantita.
Implicazioni per il settore finanziario
L'uso di agenti AI per automatizzare pagamenti e stipendi potrebbe rivoluzionare il settore, riducendo i costi operativi e accelerando i processi. Tuttavia, i risultati dello studio suggeriscono che la supervisione umana rimane indispensabile. Le aziende intenzionate a implementare queste soluzioni devono prevedere rigorosi controlli, limiti di spesa e meccanismi di verifica per evitare conseguenze disastrose. La ricerca di Cornell Tech e Yale rappresenta un campanello d'allarme: l'innovazione tecnologica deve procedere di pari passo con la sicurezza e l'affidabilità.
