OpenAI ha annunciato l'introduzione di un watermark invisibile nei testi generati da ChatGPT e Codex, una mossa obbligata per rispettare le nuove regole di trasparenza dell'AI Act europeo. La tecnologia utilizzata si chiama textGrain e, secondo l'azienda californiana, offre prestazioni superiori rispetto a soluzioni concorrenti come SynthID di Google. Il watermark è leggibile solo dalle macchine e non altera la qualità del testo prodotto.
Obbligo di trasparenza dal 2 agosto 2026
A partire dal 2 agosto 2026, l'articolo 50 comma 2 dell'AI Act impone di indicare la provenienza dei contenuti generati o modificati dall'intelligenza artificiale. Gli utenti devono poter riconoscere se un testo, un'immagine, un audio o un video è stato creato da un sistema AI. OpenAI ha sviluppato textGrain proprio per rispondere a questo requisito, applicandolo inizialmente ai modelli accessibili tramite API, in modo che gli sviluppatori possano gestire l'integrazione con i propri obblighi di trasparenza.
Disponibilità e test indipendenti
Nelle prossime settimane il watermark sarà esteso a tutti i piani di ChatGPT e Codex, ma esclusivamente nell'Unione europea. In base ai feedback ricevuti, OpenAI valuterà se adottarlo a livello globale. Ricercatori e organizzazioni di esperti potranno testare uno strumento dedicato per rilevare la presenza del watermark, senza identificare l'utente né il contenuto della conversazione. I test condotti con il modello Astra non hanno mostrato differenze evidenti di prestazioni con o senza watermark.
OpenAI ha però sottolineato i limiti intrinseci di questa tecnologia: il watermark non misura il contributo umano, non stabilisce proprietà o responsabilità e non verifica la veridicità del contenuto. Inoltre, l'assenza del watermark – ad esempio perché il testo è troppo corto, tradotto o alterato – non prova che il contenuto sia stato scritto da un essere umano. Per immagini e audio, l'azienda utilizza invece i metadati C2PA e il watermark SynthID, con un tool web dedicato per la verifica.
