Con la diffusione capillare delle soluzioni di intelligenza artificiale sono aumentate anche le segnalazioni di problemi più o meno gravi legati all'IA, riportando al centro del dibattito il tema della sicurezza. In questo scenario, Anthropic ha deciso di affidare a un soggetto terzo il controllo della propria infrastruttura, un passo che segna un cambio di approccio nella trasparenza del settore.
Un accesso di livello interno
Nei giorni scorsi l'azienda ha annunciato di aver incaricato METR, organizzazione no-profit che valuta i modelli di intelligenza artificiale all'avanguardia, di condurre un controllo su modelli, pratiche di sicurezza e gestione del rischio. A un team di sei ricercatori è stato garantito un accesso a livello di dipendente: hardware aziendale, spazi in ufficio e strumenti interni equivalenti a quelli usati dai team di valutazione del rischio di Anthropic.
Pubblicazione senza veti
Al termine della valutazione, METR pubblicherà la propria analisi dei livelli di rischio, degli incidenti o delle pratiche di Anthropic. L'azienda non potrà porre il veto alla pubblicazione, ma potrà chiedere l'oscuramento di informazioni rientranti in categorie predefinite, come dati sui clienti, materiale coperto da segreto professionale o dettagli sulle architetture dei modelli.
Secondo quanto spiegato da Anthropic, con l'aumentare della potenza dei modelli sono diventate necessarie misure di sicurezza più rigorose e valutazioni del rischio più complesse. L'azienda intende essere pubblicamente responsabile delle decisioni che prende, aprendosi a un controllo esterno indipendente. Per i dettagli su come verrà condotta la valutazione, Anthropic rimanda all'articolo pubblicato sul proprio sito.
