I predatori sessuali sfruttano sempre più spesso i social media per contattare i minori e diffondere materiale pedopornografico, noto come CSAM (Child Sexual Abuse Material). Meta ha annunciato nuove misure per contrastare questa attività illegale sulle sue piattaforme, basate in larga parte su strumenti di intelligenza artificiale. L'obiettivo è intercettare non solo i contenuti espliciti, ma anche gli annunci pubblicitari che reindirizzano gli utenti verso siti esterni dove è ospitato materiale illegale.
Come funziona la strategia di Meta
Quando Meta rileva o riceve segnalazioni di contenuti di abuso o sfruttamento di minori, li rimuove e chiude gli account responsabili, segnalando poi i casi al National Center for Missing & Exploited Children (NCMEC). Da anni un team di esperti, che include ex investigatori dell'FBI, conduce indagini manuali per smantellare le reti di predatori. Tuttavia, questi ultimi cambiano continuamente tattiche: sempre più spesso usano la pubblicità per eludere i controlli, con annunci apparentemente innocui che portano a materiale illegale su siti esterni.
Per affrontare il problema, Meta ha implementato contromisure aggiuntive basate sull'AI. Un nuovo modello è in grado di identificare gli annunci che conducono a siti con CSAM, mentre un team di agenti AI scansiona i sistemi per scovare falle sfruttabili per aggirare le protezioni. Inoltre, l'azienda può scoprire se lo stesso predatore crea un nuovo account dopo la chiusura del precedente. Quando i tool rilevano immagini e video vietati, tecnologie come PhotoDNA permettono di individuare e rimuovere copie simili; se un link viene bloccato, Meta cerca e cancella annunci, post e commenti che lo contengono.
Numeri e risultati
Tra gennaio e giugno 2026 sono stati rilevati e bloccati circa 33,2 milioni di CSAM su Facebook e Instagram. Oltre il 97% è stato rimosso in maniera proattiva, cioè prima della visualizzazione e della segnalazione da parte degli utenti. I contenuti pedopornografici vengono poi segnalati alle forze dell'ordine per consentire l'identificazione degli autori. La combinazione di AI e intervento umano si conferma quindi centrale nella lotta a un fenomeno in continua evoluzione.
