Yale stellt Maverick‑Protokoll zum Schutz von KI‑Prompts bei Remote‑Inference vor
Ein Team der Yale University hat Maverick vorgestellt, ein System, das Benutzereingaben maskiert, während die KI‑Modell‑Arbeit an externe Server delegiert wird, und in frühen Tests Geschwindigkeitssteigerungen von bis zu 45‑fach gemeldet.
Aus dem Englischen übersetzt. Original lesen
Das Wichtigste
- Maverick verschlüsselt Prompts mit einer zufälligen Maske, bevor sie an einen Rechen‑Server gesendet werden, sodass dieser die ursprüngliche Eingabe nicht sehen kann.
- Vorkalkulierte Masken ermöglichen eine bis zu 45‑mal schnellere Token‑Verarbeitung im Vergleich zur vollständigen Ausführung des Modells auf einem Handgerät.
- Das Protokoll wurde in einem nicht‑peer‑reviewten arXiv‑Pre‑Print vom 9. September 2026 veröffentlicht und wird teilweise durch einen IC3‑Grant unterstützt.
Sechs Informatik‑Forscher der Yale University veröffentlichten am 9. September 2026 ein technisches Papier, das Maverick beschreibt – ein Rahmenwerk, das den Inhalt von KI‑Prompts verbirgt, wenn die rechenintensive Arbeit auf einem Drittanbieter‑Server erfolgt. Der Ansatz erlaubt es einem Smartphone oder einem anderen leistungsschwachen Gerät, den Großteil der Arithmetik an einen entfernten Prozessor auszulagern, während die ursprüngliche Anfrage des Nutzers verborgen bleibt.
Maskierungstechnik und Verifikation
Das Client‑Gerät wendet zunächst eine kryptografische Maske an, die für einen Beobachter zufällig erscheint, und übermittelt dann die maskierten Daten an den Server. Nachdem der Server ein Ergebnis zurückgesendet hat, entfernt das Gerät die Maske, um die Antwort wiederherzustellen.
Um zu bestätigen, dass der Server das Modell korrekt ausgeführt hat, führt Maverick statt einer vollständigen lokalen Rekonstruktion eine kurze, zufällige Prüfung durch. Dieser Verifikationsschritt nutzt Konzepte aus Zero‑Knowledge‑Proof‑Systemen, einem Gebiet, das auch von blockchain‑basierten Compute‑Netzwerken erforscht wird.
Das Papier stellt Maverick dem DeepProve‑System gegenüber, einem weiteren Zero‑Knowledge‑Machine‑Learning‑Verifier, der ein korrektes Ergebnis attestieren kann, jedoch die Roh‑Eingabe nicht vor dem Server verbirgt.
Leistungsergebnisse
Bei den Tests wurde das Qwen3‑4B‑Sprachmodell auf einem einzelnen Verarbeitungsthread auf der Client‑Seite eingesetzt, gekoppelt mit einem CPU‑Server, der 128 parallele Threads bereitstellt. Wenn Masken im Voraus vorbereitet wurden, verarbeitete das System Prompt‑Tokens bis zu 45‑mal schneller als ein Szenario, in dem das Gerät das Modell vollständig selbst ausführt.
Wurden Masken hingegen während der Inferenz on‑the‑fly erzeugt, sank der Geschwindigkeitsvorteil auf das 17‑fache – immer noch eine erhebliche Reduktion der lokalen Arbeitslast.
Ein separates Experiment simulierte ein Netzwerk mit zwei Client‑Threads und 64 Server‑Threads. Bei einer Rundreise‑Latenz von 50 ms war das erste Token 1,42‑ bzw. 1,46‑mal schneller als bei reiner lokaler Ausführung; bei 100 ms Latenz war der entfernte Ansatz langsamer, was die Empfindlichkeit des Protokolls gegenüber Netzwerkverzögerungen verdeutlicht.
Die Autoren weisen darauf hin, dass der Speicherbedarf auf der Client‑Seite für vorkalkulierte Masken ein Hauptengpass ist und bezeichnen ihn als „einen Schlüssel‑Flaschenhals unseres Ansatzes“.
Team, Finanzierung und weiterführende Kommentare
Assistenzprofessor Fan Zhang und Doktorand Wenhao Wang werden als Angehörige des Initiative for CryptoCurrencies and Contracts (IC3) genannt; ein IC3‑Grant finanziert teilweise Wangs Beitrag. Charalampos Papamanthou, ebenfalls Mitautor, ist Chief Scientist bei Lagrange Labs, einem Unternehmen, das Zero‑Knowledge‑Proof‑Systeme einschließlich DeepProve entwickelt.


Diskussion 0