Anthropic ha annunciato di aver ridotto drasticamente il fenomeno della distillazione dei dati ai danni di Claude, il suo modello linguistico di punta. Secondo quanto dichiarato dall'azienda, le nuove contromisure hanno permesso di tagliare tra il 90% e il 99% le informazioni illecitamente estratte attraverso attacchi mirati. La distillazione è una tecnica con cui concorrenti o malintenzionati interrogano ripetutamente un modello per raccogliere risposte di alta qualità e addestrare poi sistemi concorrenti a costi ridotti.
Come funzionano le nuove difese
Per arginare il problema, Anthropic ha introdotto sistemi di monitoraggio comportamentale che identificano pattern di interrogazione sospetti e limitano l'accesso alle funzionalità di ragionamento esteso, ovvero le risposte più articolate e dettagliate. Queste difese non si limitano a bloccare gli attacchi, ma riducono la quantità di output disponibile per chi tenta di ricostruire il funzionamento interno del modello.
Tuttavia, la stretta ha un rovescio della medaglia: anche gli utenti legittimi hanno segnalato un accesso più limitato alle capacità di ragionamento avanzato, con risposte meno approfondite in determinati contesti. Anthropic ha ammesso che si tratta di un compromesso necessario per proteggere la proprietà intellettuale e la sicurezza del modello, ma sta lavorando per calibrare meglio i filtri ed evitare effetti collaterali sulle applicazioni professionali e di ricerca.
Impatti sul settore
La mossa di Anthropic riflette una tendenza più ampia nel settore dell'IA: le aziende stanno stringendo le maglie sull'accesso ai modelli per difendersi da furti di dati e abusi. Resta da vedere se questo equilibrio tra apertura e protezione riuscirà a soddisfare sia le esigenze di sicurezza sia quelle degli utenti, sempre più affamati di capacità di ragionamento sofisticate.
