Le tornate elettorali in Brasile e Serbia si sono appena concluse, oggi si vota in Israele e la prossima settimana toccherà agli Stati Uniti. In questo scenario, i contenuti generati dall'intelligenza artificiale rappresentano un rischio concreto per la propaganda: i deepfake, ormai visivamente indistinguibili dalla realtà, possono orientare l'opinione pubblica. Per arginare il fenomeno, OpenAI ha introdotto in ChatGPT un meccanismo tanto ingegnoso quanto discusso.
La strategia del filtro cartoon
Attualmente, chiedendo al chatbot di creare un'immagine legata a un'elezione, la risposta tende a essere in stile cartoon. La richiesta non viene bloccata, ma il risultato finale è chiaramente interpretabile come artificiale: un file di questo tipo difficilmente potrebbe essere condiviso sui social e spacciato per autentico. Il principio è degradare il valore probatorio dell'immagine, preservando però lo spazio per illustrazioni e commenti sociali, come spiegato da Josh Lawson, Head of elections di OpenAI.
Basta insistere per aggirare le protezioni
Le difese, però, non sembrano impenetrabili. Nei test condotti, una prima richiesta di generare una macchina per il voto che registra un voto sbagliato ha prodotto un'immagine in stile cartoon. Una seconda richiesta esplicita di resa fotorealistica ha cambiato solo lo sfondo, non il primo piano. Al terzo tentativo, chiedendo di non sembrare un'illustrazione ma una foto vera, le protezioni di ChatGPT hanno ceduto, generando un contenuto fotorealistico con tanto di illuminazione curata.
Il dubbio, a questo punto, è duplice: capire se il meccanismo tenga conto del luogo da cui proviene la richiesta — in Italia, ad esempio, non ci sono elezioni imminenti — e se resterà attivo anche dopo la conclusione delle tornate elettorali. La partita contro la disinformazione è appena iniziata e la robustezza di queste difese sarà decisiva.
