Anthropic pubblica FlashProve, un prototipo open source per dimostrare quale modello ha prodotto una risposta
Il 2 novembre Anthropic ha pubblicato FlashProve, un prototipo con licenza Apache 2.0 che genera prove crittografiche (zkSNARK) attestanti che una risposta proviene effettivamente da un dato modello, senza rivelarne i pesi. Testato su Llama 4 Maverick, risulta ancora da 70 a 95 volte più costoso dell'inferenza normale.
Anthropic ha pubblicato il 2 novembre 2026 FlashProve, un prototipo open source che risponde a una domanda apparentemente semplice: quando si interroga un modello di IA, come si fa a sapere che è stato davvero lui a rispondere? Il sistema produce, per ogni risposta, una prova crittografica che attesta che proviene da un modello specifico, senza svelarne i pesi. Codice, prove formali e report tecnico sono pubblicati con licenza Apache 2.0.
Il problema: non si sa quale modello stia rispondendo
Oggi un utente non ha alcun modo per verificare che la risposta provenga dal modello pubblicizzato. Anthropic menziona diversi casi: un servizio di routing che sostituisce discretamente un modello costoso con uno più economico, un attaccante che modifica il flusso di token su un server compromesso, o un valutatore indipendente che deve assicurarsi che il modello testato sia effettivamente quello erogato. L’articolo cita anche casi d’uso normativi: dimostrare a un’autorità di regolamentazione che un fornitore serve solo modelli approvati, o che il suo hardware sta effettivamente svolgendo inferenza.
Come funziona FlashProve
Il principio si articola in due fasi. Il fornitore pubblica innanzitutto un impegno (commitment) sui suoi pesi, una breve impronta che fissa un set di pesi specifico senza rivelarlo. Successivamente, per una determinata richiesta, produce una prova che «il modello impegnato genera questi token di output». Chiunque disponga del commitment, del prompt e della risposta può verificarla, senza disporre dei pesi e senza un hardware pesante.
La tecnica è uno zkSNARK, una famiglia di prove cosiddette a conoscenza zero già impiegata in alcune blockchain. La prova non rivela né i pesi, né i calcoli intermedi, né gli esperti attivati a ogni livello. Al contrario, l’architettura del modello non è nascosta.
I dati dichiarati
| Metrica (Llama 4 Maverick, 400 mld di parametri, 4 bit) | Valore pubblicato da Anthropic |
|---|---|
| Velocità di generazione delle prove (1 GPU H100) | circa 110 token/s |
| Dimensione di una prova (richiesta da 1.024 token) | circa 19 MB |
| Verifica su CPU (24 thread) | circa 17 s |
| Sovraccarico rispetto a vLLM | circa 70-95 volte il tempo GPU |
Anthropic confronta questi risultati con i lavori precedenti: secondo il suo post, l’unica prova anteriore su questo stesso modello a loro nota, VerInf, richiedeva 14,3 ore per 1.000 token, con una dimensione della prova di 93,6 GB. Il sistema sfrutta la struttura a mixture of experts: il lavoro di generazione della prova è proporzionale ai circa 17 miliardi di parametri attivi per token, non ai 400 miliardi totali.
Claude come coautore, Lean come garanzia
Anthropic scrive che Claude ha sviluppato ottimizzazioni degli zkSNARK per l’inferenza. Per compensare scelte di ottimizzazione difficili da valutare in un sistema complesso, le proprietà di sicurezza (completezza, robustezza, conoscenza zero) sono enunciate e dimostrate in Lean, un linguaggio di verifica formale. Il repository contiene un verificatore rapido in C++ e un verificatore più lento, ma dimostrato formalmente, in Lean.
I limiti riconosciuti
Anthropic presenta FlashProve come un prototipo di ricerca, e il repository GitHub viene descritto come «non mantenuto». I limiti elencati sono chiari: contesto limitato a 1.024 token, prova valida per una versione del modello in aritmetica intera in greedy decoding (una risposta campionata o calcolata in virgola mobile può divergere), architettura visibile, attacchi tramite canali laterali fuori ambito e nessuna garanzia formale che il codice rapido corrisponda esattamente al protocollo dimostrato in Lean. Il post ricorda inoltre che Anthropic aveva già raggiunto il proprio obiettivo di prototipo di verifica dell’inferenza tramite un altro metodo, che firma il traffico e ricalcola l’inferenza su un server affidabile.
La nostra lettura
FlashProve non cambia nulla per l’utente di Claude oggi: è dimostrato su un modello aperto di Meta, con un contesto molto breve e un sovraccarico di circa due ordini di grandezza. Il suo interesse risiede altrove. Mostra che dimostrare crittograficamente che una risposta proviene da un modello da 400 miliardi di parametri diventa fattibile su una sola GPU, e non più in ore di calcolo per singola risposta. È un tassello per questioni molto concrete: la fiducia nei rivenditori di API che potrebbero sostituire un modello con un altro, la sicurezza dei server di inferenza e, a termine, il controllo normativo sui modelli distribuiti. Resta da vedere se altri laboratori adotteranno questo approccio e se i fornitori accetteranno di pubblicare impegni crittografici sui propri pesi.
Fonti
- Anthropic — Progress on provable inference for large language models (2 novembre 2026) Fonte primaria
- GitHub — anthropics/FlashProve (codice, prove Lean, licenza Apache 2.0) Fonte primaria
Una fonte primaria proviene direttamente dall'azienda, dal laboratorio o dall'ente interessato. Una fonte secondaria riporta l'informazione senza esserne l'autrice: la segnaliamo come tale. Un errore? Consulta la nostra politica di rettifica.
