Anthropic анонсировала новый исследовательский прототип FlashProve, позволяющий пользователям сторонних AI‑сервисов проверять, что ответ был получен конкретной моделью, без раскрытия её приватных весов. Инструмент, описанный в исследовании от 2 ноября, использует техники нулевого раскрытия (zero‑knowledge proof), аналогичные тем, что применяются в решениях масштабирования Ethereum layer‑2. Хотя концепция обещает усилить защиту потребителей, шаг генерации доказательства, по сообщениям, в 70‑95 раз более требователен к GPU, чем стандартный вывод модели, что ставит под вопрос его краткосрочную применимость.

Как работает FlashProve

Согласно CryptoSlate, процесс верификации начинается с публикации провайдером криптографической привязки — отпечатка — весов модели. Когда пользователь отправляет запрос, провайдер генерирует доказательство того, что привязанная модель, получив этот ввод, выдала наблюдаемый вывод. Проверяющий может затем проверить доказательство на CPU без загрузки модели или повторного запуска вывода. Демонстрация использовала 400‑миллиардный параметр Llama 4 Maverick от Meta, преобразованный в 4‑битовое представление, и создавала доказательства размером около 19 МБ на запрос. Проверка на 24‑ядерном CPU заняла около 17 секунд, а на одном ядре — примерно 21 секунду.

Производительность и ограничения

Главный недостаток, отмеченный в отчёте, — значительная вычислительная нагрузка. Генерация доказательства на GPU NVIDIA H100 требовала в 70‑95 раз больше GPU‑времени, чем запуск того же вывода модели через движок vLLM на восьми GPU H100. В тесте пропускная способность составила 110 токенов в секунду, но эта цифра отражает общее количество токенов в запросе длиной 1 024 токена, а не скорость аутентификации новых токенов. FlashProve также поддерживает максимум контекстного окна в 1 024 токена и доказывает только детерминированный жадный выбор токенов, а не сэмплированные или плавающие‑точечные выводы. Кроме того, система помечена как «неподдерживаемый исследовательский артефакт», формальные заявления о безопасности представлены в системе доказательств Lean, однако исполняемый код официально не связан с этими утверждениями.

Что будет дальше

Наблюдатели будут следить, смогут ли Anthropic или другие провайдеры ИИ снизить стоимость генерации доказательств до уровня, позволяющего реализовать проверку в реальном времени, и как будут развиваться отраслевые стандарты доверенных привязок весов. Интеграция с существующими контрактами AI‑услуг и потенциальный регуляторный интерес к проверяемым выводам ИИ также могут повлиять на путь принятия таких инструментов, как FlashProve.