Anthropic ha mantenuto la promessa fatta dal CEO Dario Amodei e l'accordo siglato alla Casa Bianca. L'azienda californiana permetterà a METR di accedere ai suoi modelli Claude per una valutazione preliminare indipendente. Come riportato da Reuters, è previsto un "controllo editoriale" per evitare la divulgazione di informazioni riservate. La mossa segna un passo concreto verso una maggiore trasparenza nel settore dell'IA.
Accesso riservato a sei ricercatori
Anthropic offrirà a sei dipendenti di METR un accesso simile a quello del suo team interno di valutazione dei rischi. I valutatori esterni dovranno possedere competenze adeguate e totale indipendenza dall'azienda: non potranno avere azioni o ricevere finanziamenti da Anthropic. Quasi tutte le informazioni potranno essere condivise, ma restano esclusi i dati degli utenti, quelli legali e i dettagli sull'architettura dei modelli. Una limitazione necessaria per proteggere il know-how aziendale.
Pubblicazioni con paletti definiti
METR pubblicherà un'analisi sui livelli di rischio, sugli incidenti e sulle pratiche adottate. Anthropic non vieterà la pubblicazione, ma potrà richiedere l'oscuramento di informazioni che rientrano in categorie circoscritte e predefinite, come i dati sensibili sopra indicati. L'obiettivo è evitare la fuga di notizie riservate, pur garantendo un report trasparente. La formula ricorda quella adottata in altri settori ad alto impatto, dove l'indipendenza della valutazione convive con la tutela della proprietà intellettuale.
Anthropic ha già avviato contatti con altri valutatori esterni, tra cui Accenture, SecureBio, Faculty e Hugging Face. Questi verranno suddivisi in tre livelli in base al tipo di accesso e alla modalità di pubblicazione dei risultati, con o senza autorizzazione. Anche OpenAI ha annunciato che permetterà a terze parti di valutare i suoi modelli. Nel frattempo, entrambe le aziende pianificano il "day after" di possibili eventi catastrofici causati dai loro agenti AI, un segnale di quanto la sicurezza sia diventata una priorità strategica.
