앤트로픽, AI 응답 모델 확인하는 ‘플래시프루브’ 공개…증명 비용은 추론의 70~95배

앤트로픽이 AI 서비스의 답변이 약속한 모델에서 나왔는지 확인하는 오픈소스 시제품 ‘플래시프루브(FlashProve)’를 공개했다. 모델의 내부 가중치를 드러내지 않고 응답과 암호학적 증명을 대조하는 방식이다. 다만 실제 서비스에 붙이기에는 증명 생성 비용과 검증 범위에 제약이 남아 있다.

앤트로픽 연구진이 11월 2일 공개한 설명에 따르면 모델 제공자는 먼저 특정 가중치에 묶인 ‘약속값’을 공개한다. 이후 요청과 응답에 대한 증명을 만들면 이용자는 모델 가중치를 받지 않아도 약속한 모델의 계산 결과인지 확인할 수 있다. 답변의 사실 여부나 안전성을 판정하는 기술은 아니다.

증명은 가능해도 비용·대기시간 부담

연구진은 공개된 4비트 가중치의 라마 4 매버릭을 H100 GPU 한 대와 CPU 24코어 서버에서 시험했다. 길이 1024토큰의 요청 24개를 한 묶음으로 처리할 때 증명 생성에 약 223초가 걸렸다. 초당 110토큰은 이 묶음의 입력 처리량을 가리키며, 응답이 초당 110토큰씩 출력됐다는 뜻은 아니다.

요청 하나당 증명 파일은 18.78MB였다. 앤트로픽의 측정에서 CPU 검증에는 24개 스레드로 17초, 단일 스레드로 21초가 걸렸다. 증명 작업에 쓰인 GPU 시간은 일반 추론 엔진 vLLM과 비교해 약 70~95배였다. 수치는 특정 모델·장비·입력 조건의 회사 측 실험 결과다.

공개 코드와 상용 보장은 다르다

깃허브에 공개된 저장소는 이 기술을 ‘유지보수하지 않는 연구 산출물’로 소개한다. 앤트로픽도 형식 검증 언어 린(Lean)의 증명 대상과 빠른 C++ 검증 코드가 완전히 같다고 보증하지 않는다. 현재 시제품은 최대 1024토큰 문맥과 정수화된 모델의 결정적 토큰 선택을 다루므로, 일반 채팅의 긴 문맥이나 확률적 생성 전체를 검증한 성과로 읽을 수 없다.

기술매체 테크크런치는 3일 이 시스템의 실제 배포 계획이 없다고 전했다. 이번 공개의 의미는 모델 제공자의 말만 믿던 응답 출처 문제에 검증 가능한 방법을 시험했다는 데 있다. 실서비스에서 대량의 응답을 처리할 속도와 독립적인 코드 검토는 앞으로 남은 과제다.

대표 이미지: AI 생성 이미지 / 데이마크

원문: https://www.anthropic.com/research/provable-inference

공개 코드: https://github.com/anthropics/FlashProve

독립 보도: https://techcrunch.com/2026/11/03/anthropic-is-working-on-a-system-to-prove-ai-models-identity/