Исследователи из Йельского университета представили протокол Maverick для защиты промптов ИИ при удалённом инференсе
Команда из Йельского университета описала Maverick — систему, которая маскирует входные данные пользователей при делегировании работы модели ИИ внешним серверам, сообщая об увеличении скорости до 45 раз в ранних тестах.
Перевод с английского. Читать оригинал
Главное
- Maverick шифрует промпты случайной маской перед отправкой на вычислительный сервер, предотвращая просмотр исходного ввода сервером.
- Предварительно вычисленные маски позволили обрабатывать токены до 45 раз быстрее, чем при запуске модели полностью на портативном устройстве.
- Протокол был раскрыт в препринте arXiv без рецензирования, опубликованном 9 сентября 2026 года, и частично поддерживается грантом IC3.
Шесть исследователей в области компьютерных наук из Йельского университета опубликовали 9 сентября 2026 года техническую статью, описывающую Maverick — фреймворк, предназначенный для сокрытия содержимого промптов ИИ, когда основная вычислительная нагрузка выполняется на стороннем сервере. Этот подход позволяет смартфону или другому устройству с низкой производительностью переносить большую часть арифметических операций на удалённый процессор, сохраняя при этом исходный запрос пользователя в тайне.
Техника маскирования и верификация
Клиентское устройство сначала применяет криптографическую маску, которая выглядит случайной для наблюдателя, а затем передаёт замаскированные данные на сервер. После получения результата от сервера устройство снимает маску, чтобы восстановить ответ.
Для подтверждения того, что сервер корректно выполнил модель, Maverick проводит краткую рандомизированную проверку, а не воспроизводит полное вычисление локально. Этот этап верификации опирается на концепции систем доказательств с нулевым разглашением, область, которую также исследуют вычислительные сети на основе блокчейна.
В статье Maverick сравнивается с DeepProve — другим верификатором машинного обучения с нулевым разглашением, который может засвидетельствовать корректность результата, но не скрывает сырые входные данные от сервера.
Результаты производительности
В тестировании использовалась языковая модель Qwen3‑4B на одном потоке обработки на стороне клиента в паре с CPU-сервером, способным к 128 параллельным потокам. Когда маски были подготовлены заранее, система обрабатывала токены промпта до 45 раз быстрее, чем в сценарии, где устройство выполняло модель полностью на собственном оборудовании.
Если маски генерировались на лету во время инференса, преимущество в скорости снижалось до 17 раз, что всё ещё представляет собой существенное сокращение локальной нагрузки.
В отдельном эксперименте была смоделирована сеть с двумя потоками клиента и 64 потоками сервера. При задержке кругового пути 50 миллисекунд первый токен появлялся на 1,42 и 1,46 раза быстрее, чем при чисто локальном выполнении; при задержке 100 мс удалённый подход был медленнее, что подчёркивает чувствительность протокола к сетевой задержке.
Авторы указывают, что объём хранилища на стороне клиента, необходимый для предварительно вычисленных масок, является основным ограничением, описывая его как «ключевое узкое место нашего подхода».
Команда, финансирование и сопутствующие комментарии
Доцент Fan Zhang и кандидат наук Wenhao Wang указаны как аффилированные с Инициативой по криптовалютам и контрактам (IC3); грант IC3 частично финансирует вклад Wang. Charalampos Papamanthou, также являющийся соавтором, занимает должность главного учёного в Lagrange Labs, компании, создающей системы доказательств с нулевым разглашением, включая DeepProve.


Обсуждение 0