문샷AI, ‘키미 K3.1 프로’ 보안 학습자료 걸러…취약점 시험 통과율은 81%

문샷AI가 새 AI 모델 ‘키미 K3.1 프로’를 공개하면서 사이버 공격 관련 학습자료를 제거했다고 밝혔다. 그러나 회사 자체 취약점 악용 시험에서 최종 모델의 과제 해결률은 여전히 81.0%로 보고됐다. 가중치 공개는 11월 4일까지 진행할 계획이다.

문샷AI는 모델 개발 중 일반 학습자료에 사이버 보안 관련 내용이 섞여 있고 강화학습 과제에도 해당 내용이 포함된 사실을 확인했다고 설명했다. 오픈웨이트 모델로 배포하기 전 두 단계에서 관련 자료를 제외하되 일반 코딩 과제는 남겼다는 것이다. 모델 가중치는 외부 개발자가 내려받아 직접 실행·수정할 수 있는 핵심 파일이다.

걸러도 남은 취약점 악용 능력

회사가 공개한 ‘xdev-bench-hard’ 내부 시험에서는 자료 제거 조치를 하지 않은 중간 모델이 과제의 90.5%를 풀었고 최종 K3.1 프로는 81.0%를 풀었다. 회사는 이 차이를 자료 제거가 공격 능력을 낮춘 근거로 제시했다. 두 수치 모두 같은 회사의 시험 결과로, 실제 환경에서 위험이 그만큼 줄었다는 뜻은 아니다.

이 시험의 상당수 과제는 이미 공개된 소프트웨어 취약점을 실험 환경에서 재현한다. 모델에는 취약한 소스코드와 짧은 단서, 실행 파일을 주고 별도 격리 공간에서 코드 실행에 성공해 비밀 문자열을 가져오는지를 살핀다. 발표 수치는 세 차례 시도 중 성공 여부를 보는 방식이며 엄격한 시간 제한이나 출력 토큰 제한은 두지 않았다.

문샷AI는 자료를 걸렀는데도 최종 모델의 사이버 능력이 이전 모델보다 높아졌다고 인정했다. 일반 코딩과 장기 디버깅 능력이 취약점 과제에도 이어질 수 있다는 설명이다. 독립적인 외부 시험은 공개되지 않았고, 향후 공개될 가중치를 추가 학습하면 제거된 능력이 얼마나 되살아나는지도 이번 발표로는 알 수 없다.

서비스는 공개, 가중치는 예정

K3.1 프로와 속도를 높인 하이스피드 버전은 현재 키미 웹·앱, 키미 코드와 API에서 제공된다고 회사는 밝혔다. 문샷AI는 하이스피드 버전이 같은 모델 능력으로 응답 속도를 2~3배 높인다고 설명했지만 이는 업체의 성능 주장이다. 가중치 공개는 11월 4일까지 예정돼 있어 서비스 이용 가능 상태와 내려받아 실행할 수 있는 상태는 구분해야 한다.

회사 발표와 별도로 24일 공개된 관련 보도도 90.5%와 81.0%가 회사의 내부 수치라는 점을 지적했다. ‘사이버 자료를 빼면 안전해진다’는 결론보다, 필터링 뒤에도 남는 능력과 공개 이후 검증 가능성을 함께 살펴야 한다.

대표 이미지: AI 생성 이미지 / 데이마크

자료: https://www.kimi.ai/blog/kimi-k3-1-pro 독립 확인: https://webanditnews.com/2026/10/24/kimi-k3-1-pro-moonshot-removes-cyber-training-data-ahead-of-its-open-weight-release/