Anthropic stellt FlashProve als Open Source vor: Modellherkunft kryptografisch prüfen

Was passiert ist

Anthropic hat FlashProve veröffentlicht, einen Open-Source-Prototyp, mit dem sich ein Anbieter von KI-Modellen auf ein bestimmtes Modell festlegen und jeder Antwort einen kryptografischen Beweis beifügen kann, dass sie von diesem Modell erzeugt wurde, wie Anthropic mitteilte. Das System stützt sich auf zkSNARKs, eine Klasse von kompakten Zero-Knowledge-Beweisen. Das Unternehmen erklärte, Claude habe die Verbesserungen hervorgebracht, die das System deutlich schneller machen als frühere Open-Source-Ansätze.

In Tests mit Llama 4 Maverick, einem Mixture-of-Experts-Modell mit 400B Parametern und 4-Bit-quantisierten Gewichten, erzeugte eine einzelne H100-GPU Beweise mit etwa 110 Tokens pro Sekunde. Jede Anfrage mit 1.024 Tokens ergibt einen Beweis von rund 19 MB. Das Beweisen kostet etwa das 70- bis 95-Fache der GPU-Zeit, die nötig ist, um das Modell selbst auf vLLM, einer Open-Source-Bibliothek, auszuführen, während frühere Open-Source-Systeme als um Größenordnungen langsamer beschrieben wurden.

Die Beweise verbergen die Gewichte des Modells, sind aber nicht dafür ausgelegt, dessen Architektur zu verbergen. Damit sich die Designentscheidungen von Claude leichter prüfen lassen, lieferte das Team formale Lean-Aussagen zu den Sicherheitsgarantien sowie einen Prover, einen schnellen C++-Verifier und einen nachweislich korrekten Lean-Verifier. Code, Beweise und Dokumentation sind unter der Apache-2.0-Lizenz verfügbar, und die Autoren bezeichneten die Arbeit als Zwischenstand.

Kontext

Nutzer können heute nicht bestätigen, welches Modell eine Antwort erzeugt hat. Ein Routing-Dienst könnte unbemerkt ein günstigeres Modell einsetzen, oder ein Angreifer könnte den Token-Strom manipulieren. Eine direkte Prüfung würde private Gewichte und enorme Rechenleistung erfordern. Anthropic erklärte, beweisbare Inferenz könne zudem unabhängige Prüfer und Regulierungsbehörden unterstützen, darunter Vorschläge, die Hardware auf Inferenz statt auf Training beschränken würden.