Anthropic anunció un nuevo prototipo de investigación llamado FlashProve que permite a los usuarios de servicios IA de terceros verificar que una respuesta fue producida por un modelo específico sin exponer los pesos privados del modelo. La herramienta, detallada en un comunicado de investigación del 2 de noviembre, utiliza técnicas de pruebas de conocimiento cero similares a las empleadas en soluciones de escalado capa‑2 de Ethereum. Aunque el concepto promete mayores salvaguardas para los consumidores, el paso de generación de pruebas es 70‑95 veces más intensivo en GPU que la inferencia estándar, lo que plantea dudas sobre su viabilidad a corto plazo.

Cómo funciona FlashProve

Según CryptoSlate, el proceso de verificación comienza con un proveedor publicando un compromiso criptográfico —una huella— de los pesos del modelo. Cuando un usuario envía una entrada, el proveedor genera una prueba de que el modelo comprometido, dada esa entrada, produjo la salida observada. Un verificador puede entonces comprobar la prueba en una CPU sin descargar el modelo ni volver a ejecutar la inferencia. La demostración utilizó el modelo Llama 4 Maverick de Meta de 400 mil millones de parámetros, convertido a una representación de 4 bits, y produjo pruebas de aproximadamente 19 MB por solicitud. La verificación en una CPU de 24 hilos tomó unos 17 segundos, mientras que un solo hilo requirió alrededor de 21 segundos.

Rendimiento y limitaciones

El principal inconveniente señalado por el informe es la pesada sobrecarga computacional. Generar una prueba en una GPU NVIDIA H100 requirió entre 70 y 95 veces más tiempo de GPU que ejecutar la misma inferencia de modelo con el motor vLLM en ocho GPUs H100. La prueba midió un rendimiento de 110 tokens por segundo, pero esa cifra refleja el total de tokens procesados en una solicitud de 1 024 tokens, no la tasa de tokens autenticados nuevos. FlashProve también soporta actualmente una ventana de contexto máxima de 1 024 tokens y solo prueba elecciones determinísticas de tokens codiciosos, no salidas muestreadas o de punto flotante. Además, el sistema de pruebas se describe como un “artefacto de investigación sin mantenimiento”, y las declaraciones de seguridad formales se proporcionan en el asistente de pruebas Lean, aunque el código ejecutable no está vinculado formalmente a esas declaraciones.

Qué observar a continuación

Los observadores vigilarán si Anthropic u otros proveedores de IA pueden reducir el costo de generación de pruebas para hacer viable la verificación en tiempo real, y cómo evolucionan los estándares industriales para compromisos de peso confiables. La integración con contratos de servicios IA existentes y el posible interés regulatorio en salidas de IA verificables también podrían influir en la trayectoria de adopción de herramientas como FlashProve.