Per Bruxelles non basta aggiungere qualche controllo in più: TikTok deve intervenire direttamente sul funzionamento del feed "Per Te". La Commissione Europea ha concluso in via preliminare che il sistema di raccomandazione della piattaforma viola il Digital Services Act (DSA) a causa del cosiddetto "rabbit hole effect", il meccanismo che può intrappolare l'utente in una sequenza sempre più ripetitiva di contenuti simili.
Come funziona la trappola dell'algoritmo
Il problema, secondo la Commissione, nasce dal modo in cui TikTok interpreta il comportamento degli utenti. Guardare ripetutamente un video, soffermarsi più a lungo o mettere "Mi piace" viene utilizzato come segnale di interesse e porta il sistema a raccomandare altri contenuti dello stesso genere. Il meccanismo diventa particolarmente delicato quando riguarda argomenti come perdita di peso, immagine corporea, tristezza o isolamento: l'esposizione ripetuta potrebbe contribuire a peggiorare ansia, insoddisfazione per il proprio corpo, autostima e disturbi alimentari, con rischi maggiori per minori e adulti vulnerabili.
L'indagine ha riguardato anche il modo in cui TikTok ha valutato il rischio di possibili rabbit hole e le misure introdotte per limitarli. Secondo Bruxelles, la piattaforma non avrebbe analizzato in maniera adeguata l'impatto dell'algoritmo sul benessere degli utenti. In più, le misure già adottate per diversificare i contenuti suggeriti non sarebbero abbastanza efficaci nel ridurre la ripetizione di video simili. Anche strumenti come il tasto "Non mi interessa" vengono giudicati insufficienti: l'algoritmo continuerebbe a dare maggiore peso al tempo trascorso a guardare i video.
Le richieste di Bruxelles e la difesa di TikTok
Nella valutazione preliminare, la Commissione ritiene necessario modificare il design stesso del feed "Per Te", la sezione su cui la maggior parte degli utenti passa la maggior parte del tempo nell'app. Tra le soluzioni indicate ci sono un maggiore peso alle preferenze esplicite dell'utente, la rimozione del tempo di visualizzazione come segnale per raccomandare nuovi contenuti, controlli più accessibili e verifiche periodiche sull'algoritmo. Henna Virkkunen, vicepresidente esecutiva per Sovranità tecnologica, ha dichiarato: "Ogni volta che un utente scorre o mette mi piace a un video, l'algoritmo gli propone altri contenuti dello stesso tipo, conducendolo in rabbit hole da cui non è semplice uscire".
Un portavoce di TikTok ha definito le affermazioni "sostanzialmente inesatte", sostenendo che rappresentino in modo distorto sia l'architettura della piattaforma sia l'impegno dell'azienda sulla sicurezza. Le conclusioni sono comunque ancora preliminari: TikTok potrà esaminare i documenti e presentare una risposta scritta, mentre verrà consultato anche il Comitato europeo per i servizi digitali. Se le contestazioni saranno confermate, la Commissione potrebbe adottare una decisione formale di non conformità, con sanzioni fino al 6% del fatturato annuo globale di TikTok.
