Anthropic开源FlashProve：用密码学验证AI回答出自哪个模型

事件经过

据Anthropic介绍，该公司发布了开源原型FlashProve。AI模型提供商可以借此对某一特定模型作出承诺，并为每条回答附上密码学证明，证明该回答确由此模型生成。该系统依赖zkSNARK，这是一类零知识简洁证明。公司表示，让系统速度大幅超过早期开源方案的那些改进，是由Claude完成的。

在对Llama 4 Maverick的测试中，这是一个拥有4000亿参数、采用4比特量化权重的混合专家模型，单块H100 GPU生成证明的速度约为每秒110个token。每个1,024个token的请求会产生约19 MB的证明。证明的成本约为在开源库vLLM上运行模型本身所需GPU时间的70至95倍，而早期的开源系统则被描述为要慢上几个数量级。

这些证明会隐藏模型的权重，但并不旨在隐藏其架构。为了便于审计Claude的设计选择，团队提供了安全保证的Lean形式化陈述，以及一个证明器、一个快速的C++验证器和一个可证明正确的Lean验证器。代码、证明和文档均以Apache 2.0许可证提供，作者将这项工作定位为阶段性进展。

背景

如今，用户无法确认某条回答究竟由哪个模型生成。路由服务可能悄悄换成更便宜的模型，攻击者也可能篡改token流。要直接核查，就需要私有的权重和大量算力。Anthropic表示，可证明推理还可以支持独立评估机构和监管机构，包括一些主张将硬件限定于推理而非训练的提案。