Anthropicは、モデルのプライベートな重みを公開せずに、特定のモデルによって生成されたレスポンスであることをサードパーティのAIサービス利用者が検証できる新しい研究プロトタイプ「FlashProve」を発表した。11月2日の研究リリースで詳細が述べられたこのツールは、Ethereumのレイヤー2スケーリングソリューションで採用されているようなゼロ知識証明技術を使用している。このコンセプトはより強力な消費者保護を約束するものの、証明生成ステップは標準的なモデル推論比で70〜95倍のGPU負荷がかかることが報告されており、短期的な実現可能性に疑問が投げかけられている。

FlashProveの仕組み

CryptoSlateによると、検証プロセスは、プロバイダーがモデルの重みの暗号学的コミットメント（フィンガープリント）を公開することから始まる。ユーザーが入力を送信すると、プロバイダーは、その入力を与えられたコミットされたモデルが、観測された出力を生成したことを示す証明を生成する。検証者は、モデルをダウンロードしたり推論を再実行したりすることなく、CPU上で証明を確認できる。デモでは、Metaの4000億パラメータのLlama 4 Maverickモデルが4ビット表現に変換され、リクエストごとに約19MBの証明が生成された。24スレッドCPUでの検証には約17秒、単一スレッドでは約21秒かかった。

パフォーマンスと限界

レポートが指摘する主な欠点は、重い計算オーバーヘッドである。NVIDIA H100 GPUでの証明生成には、8つのH100 GPU上でvLLMエンジンを使用して同じモデル推論を実行するよりも70〜95倍のGPU時間が必要だった。ベンチマークではスループットが1秒あたり110トークンと測定されたが、この数値は1,024トークンのリクエストで処理された総トークン数を反映したものであり、新たに認証されたトークンのレートではない。FlashProveは現在、最大1,024トークンのコンテキストウィンドウをサポートし、サンプリングや浮動小数点出力ではなく、決定論的な貪欲なトークン選択のみを証明する。さらに、証明システムは「メンテナンスされない研究成果物」としてラベル付けされており、Lean証明アシスタントで形式化されたセキュリティ記述が提供されているが、実行可能コードがそれらの記述と形式的にリンクされているわけではない。

今後の注目点

観察者たちは、Anthropicや他のAIプロバイダーがリアルタイム検証を可能にするために証明生成コストを削減できるかどうか、そして信頼できる重みコミットメントの業界標準がどのように進化するかを注視している。既存のAIサービス契約との統合や、検証可能なAI出力に対する規制当局の関心も、FlashProveのようなツールの採用軌道に影響を与える可能性がある。