Anthropic ha pubblicato un post sul blog per presentare FlashProve, un sistema open source pensato per stabilire con certezza quale modello di intelligenza artificiale ha prodotto una determinata risposta. L'idea di fondo è quella che i ricercatori chiamano “provable inference”, ovvero inferenza dimostrabile: dietro l'etichetta c'è una prova crittografica, una sorta di garanzia matematica che certifica che un testo è stato scritto proprio da quel modello e non da un altro.
Il paragone più immediato sono le firme crittografiche delle email, che confermano l'identità del mittente e smascherano i truffatori. FlashProve punta a fare lo stesso per le AI, resistendo agli impostori che cercano di far passare un modello per un altro. Il dettaglio più interessante è che l'impostore potrebbe essere lo stesso laboratorio che ha sviluppato e gestisce il modello.
Un guinzaglio contro i furbetti
Secondo i ricercatori, il sistema servirebbe a impedire a un'azienda di sostituire di nascosto un modello costoso con uno più economico per tagliare le spese. Funzionerebbe anche al contrario, scoraggiando chi mette in campo un modello più potente del dichiarato per gonfiare i risultati nei test. Un modo concreto per tenere a freno la tentazione di barare.
Per funzionare, FlashProve chiede ai laboratori di pubblicare una “fingerprint”, un'impronta digitale per ogni modello rilasciato. Quell'impronta può essere confrontata con i singoli output e verificata per via crittografica. La parte che interessa alle aziende è che l'impronta non rivela i pesi del modello, cioè i numeri interni che ne definiscono il comportamento, il tesoro che i laboratori di modelli chiusi come Anthropic e OpenAI tengono sotto chiave.
I laboratori possono così mostrare la propria impronta senza consegnare la ricetta segreta, e il meccanismo regge anche con i modelli commerciali. Il sistema è pensato per essere leggero, tanto che la verifica potrebbe girare su un dispositivo locale. I ricercatori hanno rilasciato una specifica tecnica dettagliata e codice funzionante per vari pezzi del sistema, tutto con licenza open source su GitHub.
Va però sottolineato che la ricerca è in corso e non esiste alcun piano per mettere FlashProve in produzione. Gli autori ci tengono a precisarlo: il post vuole condividere un avanzamento intermedio, non un programma di ricerca concluso. Lo rendono pubblico perché altri guardino il lavoro fatto, lo prendano e lo migliorino.
