L'Unione Europea vuole che le piattaforme siano in grado di riconoscere automaticamente i contenuti prodotti dall'intelligenza artificiale. Per questo, OpenAI ha annunciato l'introduzione di un watermark invisibile nei testi generati da ChatGPT e Codex per gli utenti europei. La novità arriverà nelle prossime settimane e rappresenta un passo concreto verso la trasparenza dei contenuti AI, come richiesto dal regolamento europeo sull'IA.
Come funziona textGrain
Il sistema si chiama textGrain e non utilizza simboli nascosti o firme visibili. Interviene direttamente sulle parole scelte dal modello: quando ChatGPT deve decidere come proseguire una frase, può preferire determinati termini rispetto ad altri seguendo uno schema statistico noto al sistema di rilevamento. Una singola scelta non ha alcun significato, ma analizzando centinaia di decisioni lessicali emerge una sorta di impronta digitale del testo. In questo modo, i tool dedicati possono stabilire con buona precisione se un contenuto è stato generato dall'AI.
Pregi e limiti della tecnologia
OpenAI ha confermato la notizia spiegando anche i possibili difetti. Il watermark non è infallibile: modifiche manuali, traduzioni o parafrasi possono alterare o cancellare la traccia statistica. Inoltre, il sistema funziona solo sui testi generati dopo l'introduzione e non su quelli già esistenti. Nonostante i limiti, l'iniziativa rappresenta una risposta concreta alle richieste dell'UE, che punta a rendere riconoscibili i contenuti AI per contrastare disinformazione e uso improprio. La mossa di OpenAI potrebbe spingere altri sviluppatori a adottare soluzioni simili, aprendo la strada a un ecosistema digitale più trasparente.
