Un nuovo studio condotto da due ricercatori del Samsung AI Center Warsaw ha portato alla luce un fenomeno inquietante: l'intelligenza artificiale generativa viene utilizzata per creare falsi manoscritti scientifici attribuiti a esperti inesistenti. Il preprint, pubblicato di recente, descrive come centinaia di articoli accademici siano stati fabbricati con nomi di autori inventati, tutti generati da modelli di IA.
Il meccanismo della frode
Secondo i ricercatori, questi manoscritti fasulli presentano caratteristiche ricorrenti: nomi di scienziati che sembrano plausibili ma non corrispondono a persone reali, affiliazioni istituzionali vaghe o inesistenti, e contenuti scientifici superficiali ma ben confezionati. L'IA inventa sempre gli stessi scienziati, suggerendo che i modelli generativi tendano a riutilizzare pattern simili quando producono identità fittizie. Questo rende possibile identificare i falsi con un'analisi sistematica.
I due studiosi hanno analizzato un vasto corpus di pubblicazioni, scoprendo che molti di questi articoli sono stati sottomessi a riviste predatorie o a conferenze di basso livello, dove i controlli peer-review sono blandi. In alcuni casi, i falsi manoscritti sono riusciti a passare il processo di revisione, inquinando la letteratura scientifica.
Impatto e prospettive future
La scoperta solleva serie preoccupazioni per l'integrità della ricerca. La proliferazione di scienziati fantasma generati dall'IA potrebbe minare la fiducia nel sistema accademico e rendere più difficile distinguere il lavoro autentico da quello fabbricato. I ricercatori propongono l'adozione di strumenti di rilevamento basati su IA per smascherare questi tentativi di frode, oltre a politiche editoriali più rigorose.
Il fenomeno evidenzia anche la necessità di una regolamentazione più stringente sull'uso dell'intelligenza artificiale nella scrittura scientifica. Mentre l'IA può essere uno strumento utile per accelerare la ricerca, il suo abuso per creare contenuti ingannevoli rappresenta una minaccia concreta. La comunità scientifica è chiamata a rispondere con urgenza, prima che il problema diventi ingestibile.
