AnthropicがFlashProveを公開、応答したモデルを暗号で検証

何が起きたのか

Anthropicは、オープンソースの試作システム「FlashProve」を公開した。AIモデルの提供者が特定のモデルにコミットしたうえで、各応答がそのモデルによって生成されたことを示す暗号証明を添付できる仕組みだと、Anthropicは発表した。このシステムはゼロ知識の簡潔な証明の一種であるzkSNARKに基づいている。同社によると、従来のオープンソースの手法より大幅に高速化する改良はClaudeが生み出したという。

4ビット量子化の重みを用いる4000億パラメータのMixture-of-ExpertsモデルであるLlama 4 Maverickでのテストでは、H100 GPU 1基が毎秒約110トークンの速度で証明を生成した。1,024トークンのリクエストごとに、約19MBの証明が得られる。証明にかかるコストは、オープンソースのライブラリであるvLLMでモデル自体を実行する場合に必要なGPU時間の約70〜95倍で、従来のオープンソースのシステムは桁違いに遅いと説明されている。

この証明はモデルの重みを秘匿するが、アーキテクチャを隠すようには設計されていない。Claudeの設計上の選択を監査しやすくするため、開発チームはセキュリティ保証をLeanの形式的な記述で示し、あわせてプローバー、高速なC++製のベリファイア、正しさが証明されたLean製のベリファイアを提供した。コード、証明、ドキュメントはApache 2.0ライセンスで公開されており、開発者らはこの成果を道半ばの進展と位置づけている。

背景

現状では、ユーザーは応答がどのモデルによって生成されたのかを確認できない。ルーティングサービスが、気づかれないうちに安価なモデルへ差し替える可能性があるほか、攻撃者がトークンストリームを改ざんするおそれもある。直接確認しようとすれば、非公開の重みと大量の計算資源が必要になる。Anthropicは、検証可能な推論は、独立した評価者や規制当局の支えにもなりうると述べた。そこには、ハードウェアを学習ではなく推論のみに限定する案も含まれる。