Sei ricercatori informatici dell'Università di Yale hanno pubblicato un documento tecnico il 9 settembre 2026 che descrive Maverick, un framework progettato per mantenere nascosto il contenuto dei prompt AI quando l'elaborazione intensiva avviene su un server di terze parti. L'approccio consente a uno smartphone o a un altro dispositivo a bassa potenza di delegare la maggior parte dell'aritmetica a un processore remoto mantenendo la query originale dell'utente celata.

Tecnica di mascheramento e verifica

Il dispositivo client applica prima una maschera crittografica che appare casuale a un osservatore, quindi trasmette i dati mascherati al server. Dopo che il server restituisce un risultato, il dispositivo rimuove la maschera per recuperare la risposta.

Per confermare che il server abbia eseguito correttamente il modello, Maverick esegue un breve controllo randomizzato anziché riprodurre l'intera computazione localmente. Questo passaggio di verifica si basa su concetti dei sistemi di prove a conoscenza zero, un ambito anch'esso esplorato dalle reti di calcolo basate su blockchain.

Il documento confronta Maverick con DeepProve, un altro verificatore di machine‑learning a conoscenza zero che può attestare la correttezza del risultato ma non nasconde l'input grezzo al server.

Risultati di performance

I test hanno utilizzato il modello linguistico Qwen3‑4B su un singolo thread di elaborazione lato client, accoppiato a un server CPU capace di 128 thread paralleli. Quando le maschere sono state preparate in anticipo, il sistema ha elaborato i token del prompt fino a 45 volte più velocemente rispetto a uno scenario in cui il dispositivo esegue interamente il modello sul proprio hardware.

Se le maschere sono state generate al volo durante l'inferenza, il vantaggio di velocità è sceso a 17 volte, rappresentando comunque una riduzione sostanziale del carico locale.

Un esperimento separato ha simulato una rete con due thread client e 64 thread server. Con una latenza di andata‑ritorno di 50 ms, il primo token è stato prodotto 1,42‑1,46 volte più velocemente rispetto all'esecuzione puramente locale; con una latenza di 100 ms l'approccio remoto è risultato più lento, evidenziando la sensibilità del protocollo ai ritardi di rete.

Gli autori sottolineano che la quantità di spazio di archiviazione necessario sul client per le maschere pre‑calcolate è una limitazione primaria, descrivendola come “un collo di bottiglia chiave del nostro approccio”.

Team, finanziamenti e commenti correlati

Il professor assistente Fan Zhang e il dottorando Wenhao Wang sono indicati come affiliati dell'Initiative for CryptoCurrencies and Contracts (IC3); una sovvenzione IC3 finanzia parzialmente il contributo di Wang. Charalampos Papamanthou, co‑autore, è chief scientist di Lagrange Labs, azienda che sviluppa sistemi di prove a conoscenza zero, tra cui DeepProve.