OpenAI ha annunciato l'arrivo dei watermark invisibili per i testi generati da ChatGPT e Codex nell'Unione Europea. La mossa rappresenta un passo significativo verso una maggiore trasparenza nell'uso dell'intelligenza artificiale, in un contesto normativo sempre più attento alla tracciabilità dei contenuti sintetici. Parallelamente, l'azienda ha introdotto un'opzione globale per le API, consentendo agli sviluppatori di integrare la funzione di marcatura nei propri servizi.
Come funziona il watermark
Il sistema si basa su una firma nascosta incorporata nel testo generato, progettata per essere rilevata da strumenti specifici. Tuttavia, OpenAI ha ammesso che il meccanismo presenta limiti nel riconoscimento dopo che il contenuto è stato modificato, anche solo parzialmente. Inoltre, il watermark non certifica il grado di contributo umano nella stesura finale: non è quindi uno strumento forense infallibile, ma piuttosto un'indicazione di massima.
Implicazioni e limiti
L'iniziativa risponde alle crescenti richieste di accountability per i modelli generativi, soprattutto in Europa dove l'AI Act impone obblighi di trasparenza. Tuttavia, la stessa OpenAI sottolinea che il sistema non è una prova definitiva di autorialità. Modifiche, riscritture o semplici correzioni possono alterare o eliminare il watermark, rendendo il rilevamento inaffidabile. Per gli sviluppatori, l'opzione API globale apre nuove possibilità di integrazione, ma resta da vedere quanto sarà efficace su larga scala.
La mossa di OpenAI segna un'evoluzione importante nel panorama dell'IA, ma i limiti tecnici evidenziano che la strada verso una tracciabilità certa è ancora lunga. Sarà interessante osservare come l'Unione Europea e gli altri attori del settore reagiranno a questa implementazione parziale.
