Anthropic ha pubblicato un post sul blog per presentare FlashProve, un sistema open source pensato per stabilire con certezza quale modello abbia prodotto una determinata risposta. L'idea di fondo è battezzata dai ricercatori "provable inference", inferenza dimostrabile: dietro l'etichetta c'è una prova crittografica, una garanzia matematica che certifica che un testo è stato scritto proprio da quel modello e non da un altro. In pratica, permette di controllare che la risposta arrivi davvero dal sistema dichiarato.
Come funziona l'impronta digitale dei modelli
Il paragone più immediato sono le firme crittografiche delle email, quelle che confermano che un messaggio è stato inviato davvero dal mittente indicato e non da un presunto truffatore. FlashProve vuole fare lo stesso per le AI, resistendo agli impostori che provano a far passare un modello per un altro. Per funzionare, il sistema chiede ai laboratori di pubblicare una "fingerprint", un'impronta digitale per ogni modello rilasciato: quell'impronta si confronta poi con i singoli output e si verifica per via crittografica.
Il dettaglio più interessante è che l'impostore potrebbe essere il laboratorio stesso che ha sviluppato e gestisce il modello. Secondo i ricercatori, il sistema servirebbe a impedire a un'azienda di sostituire di nascosto un modello costoso con uno più economico per tagliare le spese. Funzionerebbe anche al contrario, scoraggiando chi mette in campo un modello più potente del dichiarato per gonfiare i risultati nei test.
Nessun peso segreto svelato, verifica leggera
La parte che interessa alle aziende è che l'impronta non rivela i pesi del modello, cioè i numeri interni che ne definiscono il comportamento e che i laboratori chiusi come Anthropic e OpenAI tengono sotto chiave. I laboratori possono quindi mostrare la loro impronta senza consegnare la ricetta segreta, e il meccanismo regge anche con i modelli commerciali. Il sistema è pensato per essere leggero, tanto che la verifica potrebbe girare su un dispositivo locale.
I ricercatori hanno rilasciato una specifica tecnica dettagliata e codice funzionante per vari pezzi del sistema, tutto con licenza open source su GitHub. Ma la ricerca è in corso e non c'è alcun piano per mettere FlashProve in produzione: gli autori tengono a sottolineare che il post condivide un avanzamento intermedio, non un programma concluso, e che il lavoro è aperto perché altri lo guardino, lo prendano e lo migliorino.
