Google DeepMind e GovTech Singapore stanno mettendo a punto un sistema di intelligenza artificiale in grado di riconoscere le truffe non solo da link sospetti o parole chiave, ma dall'evoluzione stessa della conversazione. L'obiettivo è capire come i truffatori costruiscono la fiducia della vittima e la manipolano, un problema che non riguarda solo Singapore ma l'intero pianeta.
Come funziona il sistema
La tecnologia si basa su Gemma, la famiglia di modelli AI aperti di Google, e opera in due fasi. Un primo programma leggero esamina i messaggi in arrivo per individuare segnali sospetti, contenendo il consumo di risorse dello smartphone. Se emerge un rischio, un modello Gemma specializzato analizza un insieme più ampio di messaggi per identificare i meccanismi di manipolazione, come l'usurpazione d'identità o richieste insolite.
Un esempio tipico è il falso reclutatore che intrattiene una conversazione per giorni: i primi messaggi sembrano del tutto normali, poi arriva la richiesta di "spese di pratica" per finalizzare un'assunzione inesistente. È proprio questo tipo di progressione che il sistema cerca di intercettare, anche se non è chiaro a quale stadio scatti l'allerta. Quando il tentativo viene sospettato, il telefono può mostrare un avviso che invita l'utente alla prudenza prima di condividere dati sensibili o effettuare pagamenti.
Privacy e prospettive future
Per addestrare l'AI, Google e GovTech hanno utilizzato dati anonimizzati provenienti da segnalazioni di frodi e informazioni sulle modalità operative locali, senza integrare le conversazioni private dei cittadini. L'analisi avviene direttamente sul dispositivo e i messaggi non vengono trasmessi ai server di Google o delle autorità. Non è una novità assoluta: WhatsApp ha già Scam Alert e Messaggi di Google rileva alcuni SMS fraudolenti, ma il nuovo progetto si distingue per l'analisi delle conversazioni nel tempo.
Google non ha ancora fornito cifre dettagliate sull'efficacia del sistema o sui falsi allarmi. Sviluppata inizialmente per Singapore, la tecnologia non è disponibile per il grande pubblico e non si sa quali app di messaggistica o smartphone saranno compatibili, né se arriverà nel resto del mondo. Restano inoltre domande sull'accesso ai messaggi e sui controlli lasciati all'utente.
