Apple e Google devono fare i conti con un problema sempre più diffuso: la presenza, sui loro store ufficiali, di applicazioni capaci di generare deepfake pornografici. Un'indagine di Wired ha identificato oltre 400 app e siti web che nascondono strumenti per creare immagini esplicite non consensuali. I software si presentano come servizi innocui, come app per imparare le lingue, modificare foto di animali domestici o ricevere consigli per l'allenamento.
Un fenomeno in crescita esponenziale
Il fenomeno non è nuovo, ma è in forte crescita. All'inizio dell'anno erano state individuate circa 38 applicazioni di questo tipo tra App Store e Google Play Store, responsabili di 483 milioni di download e 122 milioni di dollari di ricavi pubblicitari. Ora il numero è più che decuplicato. I ricercatori hanno osservato comportamenti analoghi a quelli del malware: inizialmente le app mostrano un'interfaccia ordinaria e svolgono le funzioni pubblicizzate, ma una volta installate comunicano con un server esterno che decide quali funzionalità rendere disponibili. In questo modo, lo stesso software può comportarsi normalmente oppure attivare un generatore di deepfake espliciti, senza che l'utente possa accorgersene subito.
Nessun criterio univoco, ma correlazioni sospette
Gli investigatori non hanno individuato un criterio univoco che determini quando viene sbloccata la versione nascosta, ma hanno notato una correlazione con il download immediato dopo aver cliccato su una pubblicità di Meta contenente materiale deepfake esplicito. Un altro passo falso per i controlli di sicurezza e moderazione. La presenza di queste app solleva serie preoccupazioni per la privacy e la sicurezza degli utenti, oltre a evidenziare la necessità di maggiori controlli da parte delle piattaforme.
