Шесть исследователей в области компьютерных наук из Йельского университета опубликовали 9 сентября 2026 года техническую статью, описывающую Maverick — фреймворк, предназначенный для сокрытия содержимого промптов ИИ, когда основная вычислительная нагрузка выполняется на стороннем сервере. Этот подход позволяет смартфону или другому устройству с низкой производительностью переносить большую часть арифметических операций на удалённый процессор, сохраняя при этом исходный запрос пользователя в тайне.

Техника маскирования и верификация

Клиентское устройство сначала применяет криптографическую маску, которая выглядит случайной для наблюдателя, а затем передаёт замаскированные данные на сервер. После получения результата от сервера устройство снимает маску, чтобы восстановить ответ.

Для подтверждения того, что сервер корректно выполнил модель, Maverick проводит краткую рандомизированную проверку, а не воспроизводит полное вычисление локально. Этот этап верификации опирается на концепции систем доказательств с нулевым разглашением, область, которую также исследуют вычислительные сети на основе блокчейна.

В статье Maverick сравнивается с DeepProve — другим верификатором машинного обучения с нулевым разглашением, который может засвидетельствовать корректность результата, но не скрывает сырые входные данные от сервера.

Результаты производительности

В тестировании использовалась языковая модель Qwen3‑4B на одном потоке обработки на стороне клиента в паре с CPU-сервером, способным к 128 параллельным потокам. Когда маски были подготовлены заранее, система обрабатывала токены промпта до 45 раз быстрее, чем в сценарии, где устройство выполняло модель полностью на собственном оборудовании.

Если маски генерировались на лету во время инференса, преимущество в скорости снижалось до 17 раз, что всё ещё представляет собой существенное сокращение локальной нагрузки.

В отдельном эксперименте была смоделирована сеть с двумя потоками клиента и 64 потоками сервера. При задержке кругового пути 50 миллисекунд первый токен появлялся на 1,42 и 1,46 раза быстрее, чем при чисто локальном выполнении; при задержке 100 мс удалённый подход был медленнее, что подчёркивает чувствительность протокола к сетевой задержке.

Авторы указывают, что объём хранилища на стороне клиента, необходимый для предварительно вычисленных масок, является основным ограничением, описывая его как «ключевое узкое место нашего подхода».

Команда, финансирование и сопутствующие комментарии

Доцент Fan Zhang и кандидат наук Wenhao Wang указаны как аффилированные с Инициативой по криптовалютам и контрактам (IC3); грант IC3 частично финансирует вклад Wang. Charalampos Papamanthou, также являющийся соавтором, занимает должность главного учёного в Lagrange Labs, компании, создающей системы доказательств с нулевым разглашением, включая DeepProve.