Immagina di aver scaricato Muse, l'assistente AI di Meta, e di aver accettato di condividere i tuoi dati. Ma i tuoi amici non hanno mai dato il loro consenso. Eppure, i loro messaggi, le loro foto, i loro contatti e persino le loro conversazioni private finiscono nel calderone dell'algoritmo. Questo è il nuovo volto della sorveglianza digitale: non più solo i tuoi dati, ma quelli di tutti coloro con cui interagisci.
Un successo da milioni di download
Dal lancio del mese scorso, Muse ha totalizzato milioni di download e ha raggiunto il primo posto nell'App Store di Apple. Il suo avatar virtuale, una creatura dall'aria innocente, invita gli utenti a concedere accesso a conti bancari, password, contatti e cronologia chat. Meta sostiene che tutto sia "opt-in", ma la realtà è più sfumata. Come ha dichiarato Meredith Whittaker, presidente della Signal Foundation, questi sistemi "sono pubblicizzati come aiutanti autonomi, geni o servi che fanno ciò di cui hai bisogno prima che tu lo chieda". Peccato che le loro azioni si estendano a tutti coloro che ti circondano, estrapolando informazioni intime da email, messaggi e foto.
Incidenti prevedibili e dark pattern
Non è una sorpresa che gli utenti stiano già segnalando episodi allarmanti: c'è chi ha visto l'assistente leggere milioni di messaggi che credeva off-limits, e chi si è ritrovato un estraneo alla porta di casa dopo che Muse aveva condiviso il suo indirizzo. Meta attribuisce questi incidenti a permessi mal configurati, ma Eva Galperin, direttrice della cybersecurity per la Electronic Frontier Foundation, è netta: "Il modo in cui è progettata l'interfaccia utente incoraggia a condividere il più possibile, spesso più di quanto si realizzi, fino a quando è troppo tardi". Si tratta di dark pattern, trucchi psicologici che spingono a cedere dati senza piena consapevolezza.
La vera novità è che gli agenti AI come Muse non si limitano a violare la privacy di chi li installa. Compilano profili orari di ogni persona nella vita dell'utente, analizzando relazioni, abitudini e bisogni. Come ha rivelato Wired, l'app misura quanto una relazione sia stretta e cosa sembri necessario in quel momento. Il risultato? Un dossier dettagliato su amici, colleghi e persino sull'appuntamento di cinque anni fa. E non c'è modo di sottrarsi: anche se eviti Muse, i tuoi conoscenti potrebbero aver già condiviso i tuoi dati.
Per Whittaker e altri esperti, questo sistema perpetua un modello di consenso rotto che esiste dagli anni '90. "L'idea è di imporre fardelli impossibili sulle persone comuni e poi usarli per sostenere che è ciò che hanno scelto", spiega Neil Richards, professore di privacy law. In un'epoca di crisi del costo della vita, chiedere agli utenti di monitorare un agente AI che nemmeno i suoi creatori comprendono appieno è irragionevole. La domanda sorge spontanea: quanti di noi sanno davvero cosa stanno firmando?
