Anthropic kündigte einen neuen Forschungsprototypen namens FlashProve an, der Dritt‑AI‑Dienstnutzern ermöglicht zu verifizieren, dass eine Antwort von einem bestimmten Modell stammt, ohne die privaten Gewichte des Modells offenzulegen. Das Werkzeug, das in einer Forschungsveröffentlichung vom 2. November beschrieben wird, nutzt Zero‑Knowledge‑Proof‑Techniken, ähnlich denen, die in Ethereum‑Layer‑2‑Skalierungslösungen eingesetzt werden. Während das Konzept stärkere Verbraucherschutzmaßnahmen verspricht, ist der Beweis‑Erzeugungsschritt laut Bericht 70‑95 × GPU‑intensiver als die Standard‑Model‑Inference, was Fragen zur kurzfristigen Umsetzbarkeit aufwirft.

Wie FlashProve funktioniert

Laut CryptoSlate beginnt der Verifizierungsprozess damit, dass ein Anbieter ein kryptografisches Commitment – einen Fingerabdruck – der Modellgewichte veröffentlicht. Wenn ein Nutzer eine Eingabe sendet, erzeugt der Anbieter einen Beweis, dass das committe Modell bei dieser Eingabe die beobachtete Ausgabe erzeugt hat. Ein Verifizierer kann den Beweis dann auf einer CPU prüfen, ohne das Modell herunterzuladen oder die Inferenz erneut auszuführen. Die Demonstration nutzte Metas 400‑Billion‑Parameter‑Llama 4 Maverick‑Modell, konvertiert in eine 4‑Bit‑Darstellung, und erzeugte Beweise von etwa 19 MB pro Anfrage. Die Verifikation auf einer 24‑Thread‑CPU dauerte etwa 17 Sekunden, ein einzelner Thread benötigte rund 21 Sekunden.

Leistung und Einschränkungen

Der Hauptnachteil, den der Bericht hervorhebt, ist der hohe Rechenaufwand. Das Erzeugen eines Beweises auf einer NVIDIA H100 GPU erforderte 70‑95 × mehr GPU‑Zeit als das Ausführen derselben Modell‑Inference mit der vLLM‑Engine auf acht H100 GPUs. Der Benchmark zeigte einen Durchsatz von 110 Token pro Sekunde, wobei diese Zahl die Gesamtzahl der Token in einer 1 024‑Token‑Anfrage widerspiegelt und nicht die Rate neu authentifizierter Token. FlashProve unterstützt derzeit ein maximales Kontextfenster von 1 024 Token und beweist nur deterministische, gierige Token‑Entscheidungen, nicht gesampelte oder Gleitkomma‑Ausgaben. Zudem wird das Beweissystem als „unmaintained research artifact“ bezeichnet, formale Sicherheitsaussagen liegen im Lean‑Proof‑Assistant vor, jedoch ist der ausführbare Code nicht formal mit diesen Aussagen verknüpft.

Was als Nächstes zu beobachten ist

Beobachter werden verfolgen, ob Anthropic oder andere KI‑Anbieter die Kosten der Beweis‑Erzeugung senken können, um eine Echtzeit‑Verifikation zu ermöglichen, und wie sich Industriestandards für vertrauenswürdige Gewichts‑Commitments entwickeln. Die Integration in bestehende KI‑Dienstverträge und ein mögliches regulatorisches Interesse an verifizierbaren KI‑Ausgaben könnten ebenfalls den Adoptionsverlauf von Werkzeugen wie FlashProve beeinflussen.