Anthropic ouvre FlashProve pour prouver quel modèle IA a répondu

Ce qui s'est passé

Anthropic a publié FlashProve, un prototype open source qui permet à un fournisseur de modèles d'IA de s'engager sur un modèle précis, puis de joindre à chaque réponse une preuve cryptographique attestant qu'elle a bien été générée par ce modèle, a indiqué Anthropic. Le système repose sur les zkSNARK, une famille de preuves succinctes à divulgation nulle de connaissance. L'entreprise affirme que Claude a produit les améliorations qui le rendent nettement plus rapide que les approches open source précédentes.

Lors de tests sur Llama 4 Maverick, un modèle de type mixture-of-experts de 400B paramètres utilisant des poids quantifiés sur 4 bits, un seul GPU H100 a généré des preuves à environ 110 tokens par seconde. Chaque requête de 1 024 tokens produit une preuve d'environ 19 Mo. La génération de la preuve coûte environ 70 à 95 fois le temps GPU nécessaire pour exécuter le modèle lui-même sur vLLM, une bibliothèque open source, alors que les systèmes open source antérieurs étaient décrits comme plus lents de plusieurs ordres de grandeur.

Les preuves dissimulent les poids du modèle, mais ne sont pas conçues pour masquer son architecture. Pour faciliter l'audit des choix de conception de Claude, l'équipe a fourni des énoncés formels en Lean des garanties de sécurité, ainsi qu'un prouveur, un vérificateur rapide en C++ et un vérificateur Lean prouvé correct. Le code, les preuves et la documentation sont disponibles sous licence Apache 2.0, et les auteurs présentent ce travail comme une étape intermédiaire.

Contexte

Aujourd'hui, les utilisateurs ne peuvent pas confirmer quel modèle a produit une réponse. Un service de routage pourrait discrètement substituer un modèle moins coûteux, ou un attaquant pourrait altérer le flux de tokens. Une vérification directe exigerait l'accès aux poids privés et une puissance de calcul considérable. Anthropic indique que l'inférence prouvable pourrait aussi soutenir des évaluateurs indépendants et des régulateurs, y compris dans le cadre de propositions visant à limiter le matériel à l'inférence plutôt qu'à l'entraînement.