메타, 8160억 매개변수 AI 모델 가중치 공개…맥 스튜디오 2대로 로컬 구동

메타가 대형 AI 모델 ‘뮤즈 스파크 오픈’의 가중치를 15일 공개했다. 전체 매개변수는 8160억 개지만 추론 때 활성화하는 규모는 420억 개다. 회사는 애플 M5 울트라 맥 스튜디오 두 대를 연결해 기기 안에서 실행할 수 있다고 설명했다.

공개된 모델은 텍스트뿐 아니라 이미지·영상·음성을 입력받고 텍스트로 답한다. 한 번에 처리하도록 설계된 문맥 길이는 100만 토큰이다. 메타는 코딩과 여러 단계를 거치는 작업에 초점을 맞췄다고 밝혔다. 다만 ‘미국에서 가장 성능이 높은 공개 가중치 모델’이라는 회사의 평가는 독립적으로 확인된 순위가 아니다.

가중치는 공개됐지만 장비 문턱은 높아

허깅페이스의 실제 모델 저장소에는 가중치와 모델 카드가 올라와 있다. 카드에는 일반 GPU 환경에서 압축 버전을 실행하려면 최소 700GB의 비디오 메모리가 필요하다고 적혀 있다. 맥 스튜디오 두 대 구동은 애플의 MLX 프레임워크에 맞춘 별도 최적화 사례다. 개인용 컴퓨터 한 대에서 무리 없이 돌릴 수 있다는 뜻은 아니다.

외신 쿼츠는 애플의 기술 설명을 인용해 4비트 모델만 약 493GB의 메모리를 차지하며 실제 구동에는 추가 메모리가 필요하다고 보도했다. 따라서 ‘데스크톱 구동’이라는 표현과 일반 소비자가 쉽게 설치할 수 있다는 말은 구분해야 한다.

공개 가중치와 제한 없는 이용은 다르다

허깅페이스 저장소에 표시된 이용 조건은 ‘뮤즈 모델 라이선스’다. 모델을 내려받아 수정·배포할 수 있지만 사용 정책 준수와 표시 의무가 있으며, 일정 매출을 넘는 서비스형 모델 사업에는 메타와 별도 계약이 필요하다. 일반적인 의미의 무조건 자유로운 오픈소스 라이선스라고 부르기는 어렵다.

메타가 공개한 성능 수치는 회사가 설정한 평가 조건에서 나온 것이다. 모델 카드도 여러 단계의 추론에서 오류가 날 수 있고, 공개 모델을 실제 서비스에 넣을 때는 용도에 맞춘 보호장치가 필요하다고 명시했다. 공개가 곧 한국어 성능이나 현장 안전성을 검증했다는 의미는 아니다.

대표 이미지: AI 생성 이미지 / 데이마크

자료: 메타 발표 https://research.meta.ai/blog/muse-spark-open

모델 카드·라이선스 https://huggingface.co/meta-models/Muse-Spark-Open-816B-A42B

쿼츠 보도 https://qz.com/meta-apple-muse-spark-open-mac-studio-101626