OpenAI ha individuato e bloccato una vasta campagna di distillazione non autorizzata finalizzata a estrarre informazioni protette dai suoi modelli di intelligenza artificiale. L'operazione, condotta in modo coordinato e su larga scala, avrebbe coinvolto migliaia di account, la maggior parte dei quali riconducibili a Moonshot AI, l'azienda cinese che sviluppa il modello Kimi. La notizia, diffusa nelle scorse ore, riaccende i riflettori su una pratica sempre più diffusa nel settore: l'uso degli output o della catena di ragionamento di un modello per addestrarne e migliorarne altri, spesso senza alcuna autorizzazione.
Come funziona la distillazione illecita
Secondo quanto ricostruito da OpenAI, gli autori della campagna non hanno violato la crittografia, compromesso database né ottenuto accesso diretto alle conversazioni degli utenti. Hanno invece manipolato le interazioni con il modello in modo da far emergere processi di ragionamento protetti, rendendoli visibili a chi effettuava la richiesta. Una delle tecniche utilizzate prevedeva la copia dei ragionamenti cifrati da una conversazione e la richiesta al modello, in un'altra conversazione, di decifrare e trascrivere il contenuto nascosto. Un metodo sofisticato che sfrutta le stesse capacità del sistema per aggirarne le difese.
L'attività è iniziata il 1 luglio con volumi ridotti, per poi registrare un picco improvviso il 24 e 25 luglio, con oltre 16.000 richieste riconducibili a un preciso schema di estrazione e provenienti da più di 4.000 utenti. Ulteriori indagini hanno portato alla luce un'attività correlata basata su schemi di prompt simili, all'interno di un gruppo di oltre 15.000 utenti. L'intera operazione è stata completamente bloccata entro il 28 luglio.
Il contesto: la corsa ai modelli e il gap colmato
I modelli AI delle aziende statunitensi restano ancora i più performanti sul mercato, ma le aziende cinesi hanno ridotto sensibilmente il divario con i recenti rilasci. Molti di questi modelli sono open source e accessibili gratuitamente, rappresentando una potenziale minaccia per le aziende che investono miliardi di dollari all'anno nella ricerca. Secondo NSA, CISA e FBI, sei aziende cinesi effettuerebbero distillazione illecita da quasi due anni, il che spiegherebbe l'incremento delle prestazioni registrato negli ultimi mesi. Un quadro che suggerisce come la competizione tecnologica globale passi sempre più anche attraverso pratiche ai limiti della legalità.
OpenAI non può confermare con certezza se la distillazione sia stata effettuata da un singolo autore. Tuttavia, il numero maggiore di richieste è arrivato da individui associati a Moonshot AI. L'azienda californiana ha chiuso tutti gli account coinvolti, rafforzato i controlli di login e migliorato le protezioni per impedire l'accesso ai dati di ragionamento. La società ha inoltre sottolineato come la distillazione non autorizzata possa diventare un rischio per la sicurezza nazionale: l'estrazione dei dati di ragionamento permette di addestrare altri modelli rimuovendo le restrizioni originarie, aprendo la strada a possibili utilizzi pericolosi, come la scrittura di codice per attacchi informatici.
La vicenda evidenzia una tensione crescente tra innovazione aperta e tutela della proprietà intellettuale. Da un lato, la diffusione di modelli open source accelera la ricerca e democratizza l'accesso all'IA; dall'altro, espone i laboratori a rischio di estrazione illecita delle proprie capacità. Le misure adottate da OpenAI rappresentano un segnale chiaro: la protezione dei modelli e dei loro processi interni diventerà una priorità assoluta nei prossimi anni. Sarà interessante osservare se altri attori seguiranno l'esempio e se verranno introdotte regolamentazioni specifiche per contrastare la distillazione non autorizzata a livello internazionale.
