클라우드플레어 AI 응답 155건에 다른 이용자 데이터…추론 캐시 격리 오류 공개

클라우드플레어가 AI 모델 GLM 5.3을 서비스하는 과정에서 다른 이용자의 요청 데이터가 응답에 섞인 사고를 26일 공개했다. 8월 27일부터 9월 9일까지 응답 155건이 영향을 받았다는 자체 조사 결과다. 사고는 9월에 수습했으며 이번 발표는 뒤늦은 사고 공개다.

클라우드플레어에 따르면 문제가 발생한 곳은 자사 Workers AI의 `@cf/zai-org/glm-5.3`이다. 영향을 받은 응답은 모두 68만1280토큰을 넘는 긴 입력에 대한 것이었다. 회사는 다른 Workers AI 모델에서는 같은 문제가 확인되지 않았다고 밝혔다. 155건이라는 범위와 악의적인 악용의 증거가 없다는 판단은 회사 조사에 따른 것으로, 외부 감사로 확인된 수치는 아니다.

긴 입력을 거부하지 못한 추론 엔진

원인은 서비스 설정과 추론 엔진의 오류가 겹친 데 있다. 클라우드플레어는 입력을 최대 104만8576토큰까지 받도록 설정했지만, 입력을 처리하는 GPU의 KV 캐시는 68만1280토큰만 담을 수 있었다. KV 캐시는 AI가 앞서 읽은 문맥을 재활용하도록 저장하는 중간 계산 데이터다.

용량을 넘는 요청을 추론 엔진 SGLang이 내부적으로 거부 표시했지만, 입력 처리 장치와 출력 생성 장치가 분리된 구성에서는 요청이 계속 전달됐다. 출력 장치가 새 요청의 데이터로 덮이지 않은 캐시 영역까지 읽으면서 앞선 이용자의 내용이 응답에 나타났다. SGLang 개발팀도 26일 별도 기술 설명에서 이 거부 절차의 결함을 확인했다.

서비스 재개와 남은 확인 범위

클라우드플레어는 9월 9일 해당 모델의 공개 접근을 중단했다가 캐시 용량을 늘리고 오류를 수정한 뒤 같은 날 복구했다고 밝혔다. SGLang 개발팀은 거부된 요청이 장치 간 전달 단계에 들어가기 전에 종료되도록 수정했다고 설명했다. 다른 운영자에게는 분리형 추론 구성을 쓴다면 수정판 적용과 실제 캐시 용량 점검을 권고했다.

이번 155건은 영향을 받은 응답 수이지 피해 고객 수나 노출된 개인정보 건수가 아니다. 어떤 내용이 얼마나 유출됐는지는 두 기관의 공개 자료만으로 특정할 수 없다. 클라우드플레어는 이용 패턴에서 고의적인 반복 악용 정황을 찾지 못했다고 했지만, 사고 기간의 모든 노출을 독립적으로 배제한 결과로 받아들일 수는 없다.

대표 이미지: AI 생성 이미지 / 데이마크

출처: Cloudflare 사고 보고서(2026-10-26) https://blog.cloudflare.com/kv-cache-exposure-remediation/

SGLang Team 기술 설명(2026-10-26) https://www.lmsys.org/blog/2026-10-26-cf-security