Nhà nghiên cứu Yale trình bày giao thức Maverick để bảo vệ prompt AI trong suy luận từ xa
Một nhóm từ Yale đã mô tả chi tiết Maverick, một hệ thống che mờ đầu vào của người dùng khi ủy thác công việc mô hình AI cho các máy chủ bên ngoài, báo cáo mức tăng tốc độ lên đến 45 lần trong các thử nghiệm ban đầu.
Dịch từ tiếng Anh. Đọc bản gốc
Điểm chính
- Maverick mã hóa prompt bằng một lớp che ngẫu nhiên trước khi gửi đến máy chủ tính toán, ngăn máy chủ nhìn thấy đầu vào gốc.
- Các lớp che được tính toán trước cho phép xử lý token nhanh hơn đến 45 lần so với việc chạy mô hình hoàn toàn trên thiết bị cầm tay.
- Giao thức được công bố trong một bản thảo arXiv không qua phản biện đồng cấp đăng ngày 9/9/2026 và được tài trợ một phần bởi học bổng IC3.
Sáu nhà nghiên cứu khoa học máy tính từ Đại học Yale đã công bố một bài báo kỹ thuật vào ngày 9/9/2026, phác thảo Maverick, một khung làm việc được thiết kế để giữ nội dung prompt AI ẩn khi phần việc nặng được thực hiện trên máy chủ bên thứ ba. Cách tiếp cận này cho phép điện thoại thông minh hoặc thiết bị hiệu suất thấp chuyển phần lớn phép tính sang bộ xử lý từ xa trong khi truy vấn gốc của người dùng vẫn được che giấu.
Kỹ thuật che mờ và xác minh
Thiết bị đầu cuối trước tiên áp dụng một lớp che mật mã học trông ngẫu nhiên đối với người quan sát, sau đó truyền dữ liệu đã che đến máy chủ. Sau khi máy chủ trả về kết quả, thiết bị gỡ bỏ lớp che để khôi phục câu trả lời.
Để xác nhận rằng máy chủ đã thực thi mô hình chính xác, Maverick chạy một bước kiểm tra ngẫu nhiên ngắn thay vì tái tạo toàn bộ phép tính cục bộ. Bước xác minh này dựa trên các khái niệm từ hệ thống chứng minh zero-knowledge, một lĩnh vực cũng được các mạng tính toán dựa trên blockchain khám phá.
Bài báo so sánh Maverick với DeepProve, một trình xác minh máy học zero-knowledge khác có thể chứng nhận kết quả chính xác nhưng không che đầu vào thô khỏi máy chủ.
Kết quả hiệu suất
Thử nghiệm sử dụng mô hình ngôn ngữ Qwen3-4B trên một luồng xử lý duy nhất ở phía đầu cuối, kết hợp với máy chủ CPU có khả năng 128 luồng song song. Khi các lớp che được chuẩn bị trước, hệ thống xử lý token prompt nhanh hơn đến 45 lần so với kịch bản thiết bị tự thực thi mô hình hoàn toàn trên phần cứng của nó.
Nếu các lớp che được tạo ra trong quá trình suy luận, lợi thế tốc độ giảm xuống còn 17 lần, vẫn đại diện cho sự giảm đáng kể khối lượng công việc cục bộ.
Một thí nghiệm riêng mô phỏng mạng với hai luồng đầu cuối và 64 luồng máy chủ. Với độ trễ vòng đi-về 50 mili giây, token đầu tiên xuất hiện nhanh hơn 1,42 và 1,46 lần so với thực thi cục bộ thuần túy; ở độ trễ 100 ms, cách tiếp cận từ xa chậm hơn, làm nổi bật độ nhạy của giao thức đối với độ trễ mạng.
Các tác giả chỉ ra rằng lượng bộ nhớ phía đầu cuối cần thiết cho các lớp che được tính toán trước là một hạn chế chính, mô tả nó là “một nút thắt cổ chai chính của cách tiếp cận của chúng tôi.”
Đội ngũ, tài trợ và bình luận liên quan
Giảng viên phụ trách Fan Zhang và ứng viên tiến sĩ Wenhao Wang được liệt kê là thuộc về Sáng kiến về Tiền mã hóa và Hợp đồng (IC3); một học bổng IC3 tài trợ một phần đóng góp của Wang. Charalampos Papamanthou, cũng là đồng tác giả, giữ vị trí nhà khoa học trưởng tại Lagrange Labs, một công ty xây dựng các hệ thống chứng minh zero-knowledge bao gồm DeepProve.
Trong một cuộc phỏng vấn gần đây trên podcast “Uneasy Money” của Unchained, nhà sáng lập sàn giao dịch blockchain Kain Warwick đã nhấn mạnh vấn đề niềm tin mà Maverick nhằm giải quyết, nói rằng: “mọi người đang bán cho bạn suy luận, và bạn thực sự không biết nó đến từ đâu.”


Thảo luận 0