리플렉션 AI, 5010억 매개변수 ‘빔’ 가중치 공개…직접 구동엔 대용량 GPU 필요

리플렉션 AI의 대형 언어모델 ‘빔(Beam) 1.0’ 가중치가 16일 허깅페이스에 공개됐다. 개발자는 모델을 내려받아 자체 환경에서 실행하거나 수정할 수 있지만, 실제 구동에는 대용량 GPU 메모리가 필요하다.

공개 가중치와 구동 비용은 별개

허깅페이스가 공개한 모델 자료에 따르면 빔은 총 5010억 개의 매개변수를 가진 텍스트 입출력 모델이다. 한 번에 처리하는 토큰에는 약 230억 개가 활성화되는 전문가 혼합(MoE) 구조를 쓴다. 필요한 연산량을 줄이는 방식이지만 비활성 매개변수까지 포함한 가중치 전체를 저장·적재해야 한다.

허깅페이스는 BF16 형식의 가중치 파일 크기를 약 1TB로 설명했다. 4비트 기반 NVFP4 형식은 약 280GB로 줄어들지만 이를 직접 구동하려면 해당 형식을 지원하는 엔비디아 블랙웰 계열 GPU가 필요하다. 허깅페이스는 동시 요청과 긴 문맥 처리를 고려할 때 B200 GPU 네 장을 권장했다. 이는 모델 자체의 배포 조건이 가벼워졌다는 뜻과 실제 운영 비용이 낮다는 뜻을 구분해야 한다는 사례다.

가중치는 BF16·FP8·NVFP4 형태로 올라왔고 모델 페이지에는 아파치 2.0 라이선스가 표시돼 있다. 리플렉션 AI는 최대 100만 토큰 문맥을 지원한다고 소개했다. 모델은 영어 중심으로 개발됐으며, 한국어 성능이 같은 수준이라는 독립 평가 자료는 확인되지 않았다.

호스팅 제공은 확인, 성능 비교는 유보

별도 서비스 업체 베이스텐은 같은 날 빔을 자사 모델 API와 전용 추론 서비스에서 제공한다고 밝혔다. 자체 GPU를 마련하지 않아도 서비스를 통해 시험할 수 있는 경로가 생겼다는 뜻이다. 다만 이용 요금과 자체 설치 비용은 배포 방식과 사용량에 따라 달라진다.

허깅페이스 모델 카드에 적힌 코딩·추론 시험 점수는 리플렉션 AI가 제공한 평가 결과다. 베이스텐도 자사 소개 글의 성능 수치를 리플렉션 AI 자료에서 가져왔다고 명시했다. 공개된 가중치와 호스팅 제공 여부는 확인됐지만 다른 AI 모델보다 성능이 앞선다는 결론까지 독립적으로 확인된 것은 아니다.

출처: https://huggingface.co/blog/reflection-beam
모델 카드: https://huggingface.co/reflection/Beam-1.0-501B-A23B
서비스 발표: https://www.baseten.co/blog/reflection-beam-launch/
대표 이미지: AI 생성 이미지 / 데이마크