A Anthropic anunciou um novo protótipo de pesquisa chamado FlashProve, que permite que usuários de serviços de IA de terceiros verifiquem se uma resposta foi produzida por um modelo específico sem expor os pesos privados do modelo. A ferramenta, detalhada em uma publicação de pesquisa de 2 de novembro, usa técnicas de prova de conhecimento zero semelhantes às empregadas em soluções de escalonamento de camada 2 da Ethereum. Embora o conceito prometa proteções mais fortes para os consumidores, a etapa de geração de provas é relatada como sendo de 70 a 95 vezes mais intensiva em GPU do que a inferência padrão do modelo, levantando questões sobre sua viabilidade a curto prazo.

Como o FlashProve funciona

De acordo com a CryptoSlate, o processo de verificação começa com um provedor publicando um compromisso criptográfico — uma impressão digital — dos pesos do modelo. Quando um usuário envia uma entrada, o provedor gera uma prova de que o modelo comprometido, dada aquela entrada, produziu a saída observada. Um verificador pode então verificar a prova em uma CPU sem baixar o modelo ou reexecutar a inferência. A demonstração usou o modelo Llama 4 Maverick da Meta, com 400 bilhões de parâmetros, convertido para uma representação de 4 bits, e produziu provas de aproximadamente 19 MB por solicitação. A verificação em uma CPU de 24 threads levou cerca de 17 segundos, enquanto uma única thread exigiu cerca de 21 segundos.

Desempenho e limitações

A principal desvantagem destacada pelo relatório é o alto sobrecarga computacional. Gerar uma prova em uma GPU NVIDIA H100 exigiu de 70 a 95 vezes mais tempo de GPU do que executar a mesma inferência do modelo com o motor vLLM em oito GPUs H100. O benchmark mediu a taxa de transferência em 110 tokens por segundo, mas esse número reflete o total de tokens processados em uma solicitação de 1.024 tokens, em vez da taxa de novos tokens autenticados. O FlashProve também atualmente suporta uma janela de contexto máxima de 1.024 tokens e apenas prova escolhas determinísticas de tokens gananciosos, não saídas amostradas ou de ponto flutuante. Além disso, o sistema de provas é rotulado como um "artefato de pesquisa não mantido", e declarações formais de segurança são fornecidas no assistente de provas Lean, embora o código executável não tenha sido formalmente vinculado a essas declarações.

O que observar a seguir

Os observadores estarão monitorando se a Anthropic ou outros provedores de IA podem reduzir o custo de geração de provas para tornar a verificação em tempo real viável, e como os padrões da indústria para compromissos de pesos confiáveis evoluem. A integração com contratos de serviços de IA existentes e o potencial interesse regulatório em saídas de IA verificáveis também podem moldar a trajetória de adoção de ferramentas como o FlashProve.