Anthropic a annoncé un nouveau prototype de recherche appelé FlashProve qui permet aux utilisateurs de services IA tiers de vérifier qu’une réponse a été produite par un modèle spécifique sans exposer les poids privés du modèle. L’outil, détaillé dans une publication de recherche du 2 novembre, utilise des techniques de preuve à divulgation nulle de connaissance similaires à celles employées dans les solutions de mise à l’échelle de couche 2 d’Ethereum. Bien que le concept promette des protections renforcées pour les consommateurs, l’étape de génération de la preuve serait 70‑95 fois plus intensive en GPU que l’inférence standard, soulevant des questions sur sa viabilité à court terme.

Comment fonctionne FlashProve

Selon CryptoSlate, le processus de vérification commence par la publication par le fournisseur d’un engagement cryptographique — une empreinte — des poids du modèle. Lorsqu’un utilisateur soumet une entrée, le fournisseur génère une preuve que le modèle engagé, pour cette entrée, a produit la sortie observée. Un vérificateur peut alors contrôler la preuve sur un CPU sans télécharger le modèle ni relancer l’inférence. La démonstration a utilisé le modèle Llama 4 Maverick de Meta, comptant 400 milliards de paramètres, converti en représentation 4 bits, et a produit des preuves d’environ 19 Mo par requête. La vérification sur un CPU à 24 threads a duré environ 17 secondes, tandis qu’un thread unique a nécessité près de 21 secondes.

Performances et limites

Le principal inconvénient souligné par le rapport est la lourde surcharge computationnelle. Générer une preuve sur un GPU NVIDIA H100 a requis 70‑95 × plus de temps GPU que l’exécution de la même inférence de modèle avec le moteur vLLM sur huit GPU H100. Le benchmark a mesuré un débit de 110 tokens par seconde, mais ce chiffre reflète le nombre total de tokens traités dans une requête de 1 024 tokens, et non le taux de tokens nouvellement authentifiés. FlashProve ne supporte actuellement qu’une fenêtre contextuelle maximale de 1 024 tokens et ne prouve que les choix de tokens déterministes (greedy), pas les sorties échantillonnées ou à virgule flottante. De plus, le système de preuve est qualifié d’« artefact de recherche non maintenu », les déclarations de sécurité formelles étant fournies dans l’assistant de preuve Lean, bien que le code exécutable n’ait pas été formellement lié à ces déclarations.

À surveiller

Les observateurs suivront si Anthropic ou d’autres fournisseurs d’IA parviennent à réduire le coût de génération des preuves pour rendre la vérification en temps réel viable, et comment les standards industriels pour les engagements de poids de confiance évolueront. L’intégration aux contrats de services IA existants et l’intérêt réglementaire potentiel pour des sorties d’IA vérifiables pourraient également influencer la trajectoire d’adoption d’outils comme FlashProve.