Una nuova indagine ha portato alla luce una rete inquietante di oltre 400 app e domini collegati tra loro, progettati per generare deepfake a contenuto sessuale e violento. Il dettaglio più allarmante? Queste applicazioni si presentavano come strumenti del tutto innocui, come editor di foto per animali domestici o coach fitness, riuscendo così a superare i controlli di sicurezza di Apple, Google e Meta.
Come funzionava il camuffamento
Secondo quanto emerso, gli sviluppatori utilizzavano un sistema di facciata: le app mostravano funzionalità lecite e innocue durante la fase di revisione, per poi sbloccare i generatori di contenuti illeciti una volta installate. Questo modus operandi ha permesso alla rete di operare indisturbata per mesi, nonostante le policy sempre più stringenti delle piattaforme. Oltre 400 tra app e domini sono stati identificati come parte di questo ecosistema, con collegamenti incrociati che suggeriscono un'organizzazione strutturata.
L'impatto sui controlli delle piattaforme
La scoperta solleva serie domande sull'efficacia dei processi di verifica adottati dai colossi del tech. Nonostante gli sforzi di Apple, Google e Meta per arginare la diffusione di contenuti dannosi, la rete è riuscita a eludere i controlli grazie a tecniche di mimetizzazione sofisticate. Le app incriminate sono state segnalate e in alcuni casi rimosse, ma la vicenda evidenzia la necessità di sistemi di monitoraggio più proattivi e di una collaborazione più stretta tra le piattaforme per prevenire abusi su larga scala.
La vicenda rappresenta un campanello d'allarme per l'intero settore: la lotta ai deepfake illeciti richiede strumenti sempre più avanzati e una vigilanza costante, perché le reti criminali continuano a trovare nuove strade per sfruttare le falle dei sistemi di distribuzione delle app.
