Anthropic анонсувала новий дослідницький прототип під назвою FlashProve, який дозволяє третім сторонам, що користуються послугами ШІ, верифікувати, чи відповідь була згенерована конкретною моделлю, не розкриваючи приватні ваги моделі. Інструмент, описаний у дослідницькому релізі від 2 листопада, використовує техніки доказів нульового розкриття, подібні до тих, що застосовуються в рішеннях масштабування Ethereum layer-2. Хоча концепція обіцяє сильніші захисні заходи для споживачів, етап генерації довідки, за даними звіту, потребує у 70–95 разів більше ресурсів GPU, ніж стандартний інференс моделі, що ставить під сумнів її короткострокову життєздатність.

Як працює FlashProve

За даними CryptoSlate, процес верифікації починається з публікації провайдером криптографічного коміменту — відбитка — ваг моделі. Коли користувач надсилає вхідні дані, провайдер генерує довідку того, що зафіксована модель, отримавши ці дані, виробила спостережуваний вихідний результат. Верифікатор може перевірити довідку на CPU без завантаження моделі або повторного запуску інференсу. Для демонстрації використовувалася модель Llama 4 Maverick від Meta з 400 мільярдами параметрів, перетворена на 4-бітове представлення, що генерувало довідки розміром близько 19 МБ на запит. Верифікація на CPU з 24 потоками займала близько 17 секунд, тоді як на одному потоці — приблизно 21 секунду.

Продуктивність та обмеження

Основним недоліком, на який вказує звіт, є значне обчислювальне навантаження. Генерація довідки на GPU NVIDIA H100 потребувала у 70–95 разів більше часу роботи GPU, ніж запуск інференсу тієї ж моделі за допомогою рушія vLLM на восьми GPU H100. Бенчмарк виміряв пропускну здатність на рівні 110 токенів за секунду, але ця цифра відображає загальну кількість оброблених токенів у запиті на 1024 токени, а не швидкість автентифікації нових токенів. FlashProve також наразі підтримує максимальне контекстне вікно в 1024 токени та доводить лише детерміновані жадібні вибори токенів, а не вибіркові або дробові вихідні дані. Крім того, система доказів позначена як «непідтримуваний дослідницький артефакт», а формальні твердження про безпеку надано в засобі доведення Lean, хоча виконуваний код не був формально прив'язаний до цих тверджень.

Що спостерігати далі

Спостерігачі стежитимуть за тим, чи зможуть Anthropic або інші провайдери ШІ знизити вартість генерації довідок, щоб зробити верифікацію в реальному часі можливою, а також за тим, як еволюціонуватимуть галузеві стандарти довірених коміментів ваг. Інтеграція з існуючими договорами на послуги ШІ та потенційний інтерес регуляторів до верифікованих вихідних даних ШІ також можуть вплинути на траєкторію впровадження інструментів, подібних до FlashProve.

Джерела

  • CryptoSlate: