Anthropic은 새로운 연구 프로토타입인 FlashProve를 발표했습니다. 이 도구는 제3자 AI 서비스 이용자가 모델의 비공개 가중치를 노출하지 않고도 특정 모델이 해당 응답을 생성했음을 검증할 수 있게 합니다. 11월 2일에 공개된 연구 자료에 따르면, 이 도구는 이더리움 레이어‑2 확장 솔루션에서 사용되는 영지식 증명 기법을 활용합니다. 개념적으로는 소비자 보호를 강화할 수 있지만, 증명 생성 단계가 일반 모델 추론보다 70‑95배 더 많은 GPU 연산을 요구한다는 점에서 단기적인 실용성에 의문이 제기됩니다.

FlashProve 작동 방식

CryptoSlate에 따르면, 검증 과정은 제공자가 모델 가중치의 암호학적 커밋(지문)을 공개하는 것부터 시작됩니다. 사용자가 입력을 제출하면 제공자는 해당 커밋된 모델이 그 입력에 대해 관측된 출력을 생성했음을 증명합니다. 검증자는 모델을 다운로드하거나 추론을 다시 실행하지 않고도 CPU만으로 증명을 확인할 수 있습니다. 데모에서는 Meta의 400 억 파라미터 Llama 4 Maverick 모델을 4‑bit 표현으로 변환해 요청당 약 19 MB 크기의 증명을 생성했습니다. 24‑스레드 CPU에서는 검증에 약 17초, 단일 스레드에서는 약 21초가 소요되었습니다.

성능 및 한계

보고서가 강조한 주요 단점은 무거운 연산 오버헤드입니다. NVIDIA H100 GPU에서 증명을 생성하는 데는 동일 모델을 vLLM 엔진으로 8개의 H100 GPU에서 추론할 때보다 70‑95배 더 많은 GPU 시간이 필요했습니다. 벤치마크는 1,024‑토큰 요청당 전체 토큰 처리량을 초당 110 토큰으로 측정했지만, 이는 새로 인증된 토큰 속도가 아니라 전체 처리량을 의미합니다. FlashProve는 현재 최대 1,024 토큰의 컨텍스트 윈도우만 지원하며, 결정론적 그리디 토큰 선택만을 증명하고 샘플링이나 부동소수점 출력은 증명하지 못합니다. 또한 증명 시스템은 “유지보수가 되지 않는 연구 산출물”로 분류되며, 형식적 보안 진술은 Lean 증명 도우미에 제공되지만 실행 가능한 코드와는 공식적으로 연결되지 않았습니다.

다음에 주목할 점

관찰자들은 Anthropic이나 다른 AI 제공자가 증명 생성 비용을 낮춰 실시간 검증이 가능하도록 할지, 그리고 신뢰할 수 있는 가중치 커밋에 대한 산업 표준이 어떻게 발전할지를 주시할 것입니다. 기존 AI 서비스 계약과의 통합 및 검증 가능한 AI 출력에 대한 규제 관심도 FlashProve와 같은 도구의 채택 경로에 영향을 미칠 수 있습니다.

출처

이 기사는 위에 열거된 보고서를 바탕으로 COINMAG 뉴스룸에서 작성했습니다.