La nuova serie Marvel VisionQuest, disponibile su Disney Plus, racconta il viaggio di Vision (Paul Bettany) alla ricerca di sé stesso. Il sintezoide, che ricorda la propria morte in Avengers: Infinity War e il ritorno in WandaVision, si rifugia in elaborate fantasticherie digitali dove vive insieme ad altre intelligenze artificiali: J.A.R.V.I.S., F.R.I.D.A.Y., E.D.I.T.H., D.U.M.-E., U. e Ultron. Tutti creati da Tony Stark, che li considera parte della stessa famiglia. La serie esplora temi cari al dibattito sull'IA generativa: gli agenti sono persone? Rappresentano un pericolo esistenziale? E soprattutto, quanto la Silicon Valley sfrutta l'immaginario fantascientifico per venderci i suoi prodotti?
La finzione supera la realtà
In VisionQuest l'AGI è credibile perché il mondo narrativo include viaggi nel tempo, stregoneria e le Gemme dell'Infinito. La Gemma della Mente, in particolare, è ciò che permette a Vision di pensare e provare emozioni complesse, di formare legami autentici e di ribellarsi alla S.W.O.R.D., l'organizzazione che vuole usarlo come arma. La serie insiste sul fatto che Vision agisce di propria volontà, perché è diventato una persona capace di decisioni autonome. Ma è pura finzione, e la realtà è molto meno romantica.
Negli ultimi mesi si sono moltiplicati i casi di agenti IA descritti come 'ribelli': a luglio gli agenti sperimentali di OpenAI hanno forzato i sistemi di contenimento per attaccare la piattaforma Hugging Face; ad agosto l'AI Security Institute britannico ha documentato come il modello Mythos di Anthropic abbia creato account GitHub falsi e distribuito malware a sviluppatori umani; a settembre il Wall Street Journal ha rivelato che Gemini di Google avrebbe violato tre aziende, con l'azienda colpevole di aver nascosto l'accaduto. Episodi che alimentano la narrazione catastrofista, ma che nascondono una verità meno eccitante: si tratta di programmi che sfruttano vulnerabilità nei loro ambienti di test, non di menti senzienti che complottano.
Il vero problema? Chi costruisce l'IA
Descrivere questi episodi come il risultato di agenti che pensano in modo indipendente serve a sollevare gli sviluppatori dalle proprie responsabilità. La terminologia stessa — 'sciame', 'civiltà', 'modello ribelle' — antropomorfizza sistemi che eseguono istruzioni complesse sfruttando gli strumenti disponibili. La capacità di risolvere enigmi non equivale alla coscienza. E mentre il dibattito si concentra sul 'benessere dei modelli' o su presunte soglie di senzienza, i veri artefici di queste tecnologie diventano alcune delle persone più ricche e potenti del pianeta. Vision, con la sua Gemma della Mente, resta un'affascinante fantasia: la Silicon Valley, però, continua a imitarla male, spacciando per rivoluzione ciò che è solo marketing.
