Anthropic publie FlashProve, un prototype open source pour prouver quel modèle a produit une réponse

Anthropic a publié le 2 novembre 2026 FlashProve, un prototype open source qui répond à une question simple en apparence : quand on interroge un modèle d’IA, comment savoir que c’est bien lui qui a répondu ? Le système produit, pour chaque réponse, une preuve cryptographique qu’elle sort d’un modèle précis, sans dévoiler ses poids. Code, preuves formelles et rapport technique sont publiés sous licence Apache 2.0.

Le problème : on ne sait pas quel modèle répond

Aujourd’hui, un utilisateur n’a aucun moyen de vérifier que la réponse vient du modèle annoncé. Anthropic cite plusieurs cas : un service de routage qui remplacerait discrètement un modèle cher par un modèle moins coûteux, un attaquant qui modifierait le flux de jetons sur un serveur compromis, ou un évaluateur indépendant qui doit s’assurer que le modèle testé est bien celui qui est servi. Le billet évoque aussi des usages réglementaires : prouver à un régulateur qu’un fournisseur ne sert que des modèles approuvés, ou que son matériel fait bien de l’inférence.

Comment fonctionne FlashProve

Le principe tient en deux temps. Le fournisseur publie d’abord un engagement sur ses poids, une courte empreinte qui fige un jeu de poids précis sans le révéler. Ensuite, pour une requête donnée, il produit une preuve que « le modèle engagé produit ces jetons de sortie ». N’importe qui disposant de l’engagement, du prompt et de la réponse peut la vérifier, sans les poids et sans gros matériel.

La technique est un zkSNARK, une famille de preuves dites à divulgation nulle de connaissance déjà utilisée dans certaines blockchains. La preuve ne révèle ni les poids, ni les calculs intermédiaires, ni les experts activés à chaque couche. En revanche, l’architecture du modèle n’est pas cachée.

Les chiffres annoncés

Anthropic compare ces résultats aux travaux précédents : selon son billet, la seule preuve antérieure de ce même modèle qu’il connaisse, VerInf, demandait 14,3 heures pour 1 000 jetons, avec une preuve de 93,6 Go. Le système exploite la structure en mixture d’experts : le travail de preuve est proportionnel aux quelque 17 milliards de paramètres actifs par jeton, pas aux 400 milliards.

Claude en coauteur, Lean en garde-fou

Anthropic écrit que Claude a produit des améliorations des zkSNARK pour l’inférence. Pour compenser des choix d’optimisation difficiles à évaluer dans un système complexe, les propriétés de sécurité (complétude, robustesse, divulgation nulle) sont énoncées et prouvées dans Lean, un langage de vérification formelle. Le dépôt contient un vérificateur rapide en C++ et un vérificateur plus lent, mais prouvé, en Lean.

Les limites reconnues

Anthropic présente FlashProve comme un prototype de recherche, et le dépôt GitHub se dit « non maintenu ». Les limites listées sont nettes : contexte limité à 1 024 jetons, preuve portant sur une version du modèle en arithmétique entière en décodage glouton (une réponse échantillonnée ou calculée en virgule flottante peut s’en écarter), architecture visible, attaques par canaux auxiliaires hors champ, et aucune garantie formelle que le code rapide correspond exactement au protocole prouvé en Lean. Le billet rappelle aussi qu’Anthropic avait atteint son objectif de prototype de vérification de l’inférence par une autre méthode, qui signe son trafic et recalcule l’inférence sur un serveur de confiance.