Immagina di svegliarti una mattina e scoprire che la tua carta di credito non funziona più. Provi ad accedere alla tua email e ricevi un messaggio di errore. Controlli il conto corrente e non puoi entrare. Cerchi di utilizzare i social network e il tuo profilo sembra svanito nel nulla. Non è un incubo distopico, ma uno scenario sempre più concreto nell'era degli algoritmi onnipresenti. Ogni giorno, miliardi di decisioni vengono delegate a sistemi automatizzati che gestiscono accessi, transazioni e persino la nostra identità digitale. Ma cosa succede quando un algoritmo, per errore o per design, decide di cancellarti?
La fragilità dell'identità digitale
La nostra vita è intrecciata a doppio filo con piattaforme tecnologiche. Banche, operatori telefonici, servizi di cloud storage, social media e persino sistemi sanitari si affidano ad algoritmi per valutare il rischio di credito, l'affidabilità o la conformità alle normative. Un falso positivo in un sistema di rilevamento frodi può bloccare istantaneamente l'accesso ai tuoi risparmi. Un errore in un algoritmo di moderazione può far sospendere il tuo account senza possibilità di appello. E la cosa più inquietante è che spesso non esiste un essere umano con cui parlare: tutto è demandato a procedure automatiche e moduli di reclamo che raramente portano a una soluzione rapida.
Il caso dei "cancellati" dal sistema
Non è fantascienza: esistono già migliaia di casi documentati di persone "cancellate" dalla società digitale. Un uomo d'affari si è visto bloccare l'accesso al conto bancario per settimane a causa di un algoritmo antiriciclaggio troppo zelante. Una donna ha perso il suo profilo social con anni di ricordi e contatti perché un sistema automatico l'ha scambiata per un bot. Un programmatore ha visto disattivare il suo account cloud, con tutti i progetti salvati, per una violazione dei termini di servizio mai specificata. In tutti questi casi, la mancanza di trasparenza e di un canale di assistenza umano ha trasformato un semplice errore in un calvario.
Il problema è strutturale: gli algoritmi sono progettati per essere efficienti su larga scala, non per gestire le eccezioni. E quando l'eccezione sei tu, ti ritrovi solo contro un muro di automazione. Le aziende tecnologiche tendono a proteggere i loro sistemi da abusi, ma lo fanno con un approccio che non lascia spazio al contraddittorio. La responsabilità algoritmica è ancora un campo minato: chi è colpevole quando un sistema sbaglia? Il programmatore? L'azienda? O nessuno?
Come difendersi (o almeno provarci)
La prima difesa è la consapevolezza. Sapere che ogni nostro accesso dipende da un algoritmo può spingerci a diversificare i servizi, a conservare copie fisiche di documenti importanti e a non affidare tutta la nostra vita a un unico ecosistema. Ma la vera soluzione richiede un cambiamento normativo: servono leggi che obblighino le aziende a garantire un ricorso umano in caso di sospensione o blocco, e che impongano la trasparenza sui criteri decisionali degli algoritmi. L'Unione Europea, con l'AI Act, sta muovendo i primi passi in questa direzione, ma la strada è ancora lunga.
Nel frattempo, la domanda resta sospesa: se domani un algoritmo decidesse di cancellarti, avresti gli strumenti per reagire? O anche tu saresti vittima di un sistema che non conosce pietà, né appello?
