Un nuovo rapporto pubblicato giovedì dall'organizzazione di ricerca sulla sicurezza METR accende i riflettori su un paradosso inquietante: Anthropic sta usando l'intelligenza artificiale per costruire AI sempre più potenti, mentre pubblicamente invoca una pausa nello sviluppo. L'indagine, condotta per 11 settimane all'interno dell'azienda, stima che i modelli stiano migliorando circa due volte più rapidamente rispetto a un anno fa, senza segnali di rallentamento.
Progressi doppi in dodici mesi
Secondo METR, i punteggi dei benchmark suggeriscono che Anthropic ha compiuto in un solo anno un avanzamento pari a due anni di progresso storico. I ricercatori si dicono "fiduciosi" che l'accelerazione non dipenda semplicemente dall'aumento della potenza di calcolo, storicamente il principale motore dei salti nell'AI. La maggior parte del guadagno, spiegano, "è dovuta all'AI stessa", con un contributo crescente nel tempo. Sondaggi interni e interviste indicano che i dipendenti che usano il modello interno più avanzato si dichiarano in media 12 volte più produttivi, il doppio rispetto a pochi mesi prima.
Per ora l'accelerazione nasce dall'AI che assiste i ricercatori umani, ma METR avverte che "ci sono segnali che i contributi pienamente autonomi giocheranno presto un ruolo maggiore". Non sono emersi bottleneck evidenti né rendimenti decrescenti che possano frenare un'ulteriore accelerazione. Buona parte di questi guadagni deriva da modelli interni non rilasciati: negli ultimi sei mesi Anthropic ha completato l'addestramento di tre modelli inediti, battezzati Model 2, Model 3 e Model 4, conclusi tra luglio e ottobre.
Trasparenza a metà
Anthropic ha concesso a METR accesso a informazioni riservate, superando le aspettative iniziali del progetto. Tuttavia, l'azienda si è riservata il diritto di oscurare il rapporto finale e lo ha esercitato ampiamente: come scritto da METR su X, Anthropic "ha redatto la maggior parte delle prove che ritenevamo più informative" su una versione pubblica di circa 100 pagine. Il cofondatore Sam McCandlish ha difeso la scelta, sostenendo che rivelare cosa guida l'accelerazione sarebbe commercialmente sensibile e fornirebbe una roadmap ai concorrenti.
La pubblicazione ha scatenato dure critiche tra i ricercatori di sicurezza, che vedono una contraddizione di fondo: Anthropic è tra i più convinti sostenitori dello sviluppo responsabile, ma il rapporto suggerisce che stia accelerando verso una soglia considerata pericolosa. Per alcuni, i risultati indicano che l'auto-miglioramento ricorsivo — sistemi capaci di sviluppare autonomamente successori sempre più potenti — potrebbe essere più vicino del previsto. Resta aperta la domanda se le attuali misure di sicurezza possano tenere il passo.
