Дослідники Єльського університету представляють протокол Maverick для захисту підказок ШІ під час віддаленого виведення
Команда з Єлю докладно описала Maverick — систему, що маскує вхідні дані користувачів, делегуючи роботу моделі ШІ зовнішнім серверам, і повідомляє про прискорення до 45‑разового у ранніх випробуваннях.
Переклад з англійської. Читати оригінал
Головне
- Maverick шифрує підказки випадковою маскою перед відправкою на обчислювальний сервер, не дозволяючи серверу бачити оригінальний ввід.
- Попередньо обчислені маски дозволяють обробляти токени до 45 разів швидше, ніж коли модель працює повністю на портативному пристрої.
- Протокол був опублікований у непереглянутому препринті arXiv 9 вересня 2026 року і частково фінансується грантом IC3.
Шість дослідників з комп’ютерних наук Єльського університету випустили технічну статтю 9 вересня 2026 року, у якій представлено Maverick — структуру, створену для того, щоб вміст підказок ШІ залишався прихованим, коли важка обчислювальна частина виконується на сторонньому сервері. Підхід дозволяє смартфону або іншому низькопотужному пристрою передавати більшість арифметики віддаленому процесору, зберігаючи оригінальний запит користувача в таємниці.
Техніка маскування та верифікація
Клієнтський пристрій спочатку застосовує криптографічну маску, яка виглядає випадковою для спостерігача, а потім передає замасковані дані на сервер. Після отримання результату пристрій знімає маску, відновлюючи відповідь.
Щоб підтвердити, що сервер виконав модель правильно, Maverick проводить коротку випадкову перевірку замість повного локального обчислення. Цей крок верифікації базується на концепціях систем нульового розкриття, які також досліджуються в блокчейн‑мережах обчислень.
У статті порівнюється Maverick з DeepProve, іншим верифікатором машинного навчання на основі нульового розкриття, який може підтвердити правильність результату, але не приховує сирий ввід від сервера.
Результати продуктивності
Тести проводилися на мовній моделі Qwen3‑4B в однопоточному режимі на клієнтському боці, у поєднанні з CPU‑сервером, що підтримує 128 паралельних потоків. Коли маски готувалися заздалегідь, система обробляла токени підказки до 45 разів швидше, ніж у сценарії, коли пристрій виконував модель повністю самостійно.
Якщо маски генерувалися «на льоту» під час виведення, швидкість зменшувалась до 17‑разового приросту, що все одно суттєво знижувало локальне навантаження.
Окремий експеримент моделював мережу з двома клієнтськими потоками та 64 серверними потоками. При затримці 50 мс час появи першого токена був в 1,42‑1,46 рази швидший, ніж при чисто локальному виконанні; при 100 мс затримці віддалений підхід став повільнішим, що підкреслює чутливість протоколу до мережевих затримок.
Автори зазначають, що обсяг сховища на клієнтській стороні, необхідний для попередньо обчислених масок, є головним обмеженням, називаючи його «ключовим вузьким місцем нашого підходу».
Команда, фінансування та коментарі
Асистент‑професор Фан Чжан та кандидат наук Веньхао Ван зазначені як учасники ініціативи Initiative for CryptoCurrencies and Contracts (IC3); внесок Вана частково фінансується грантом IC3. Чаралампос Папамантоу, ще один співавтор, працює головним науковцем у Lagrange Labs, компанії, що створює системи нульового розкриття, включаючи DeepProve.
У недавньому інтерв’ю підкасту Unchained «Uneasy Money» засновник блокчейн‑маркетплейсу Кейн Уорвік підкреслив проблему довіри, яку вирішує Maverick, сказавши: «Люди продають вам інференс, а ви не знаєте, звідки він походить».


Обговорення 0