메타가 텍스트·이미지·오디오·비디오를 입력받는 오픈웨이트 전문가 혼합(MoE) 모델 '뮤즈 스파크 오픈'을 공개했다. 총 파라미터는 약 8,160억 개이지만 토큰당 활성 파라미터는 약 420억 개에 불과하며, 최대 100만 토큰의 컨텍스트 윈도우를 지원한다. 이 모델은 코드베이스 읽기, 코드 작성·디버깅, 도구 호출 등 실제 개발자 워크플로를 겨냥한 에이전틱 코딩에 특화 훈련됐으며, 각 MoE 레이어마다 256개 전문가 중 토큰별로 8개만 선택해 연산하는 구조로 대형 모델의 메모리 요구량과 42B급의 빠른 추론 속도를 동시에 갖췄다. 이전 소형 모델 '뮤즈 글리머'를 잇는 이 시리즈 최대 규모 모델로, BF16과 4비트 NVFP4 체크포인트가 모두 공개돼 미국산 오픈웨이트 모델 중 현재 가장 강력한 수준으로 평가된다. 이는 상업용 폐쇄형 모델에 필적하는 멀티모달·에이전틱 성능을 오픈소스 생태계에서도 이용할 수 있게 됐음을 의미한다.

• •메타의 오픈웨이트 MoE 모델, 총 8,160억·활성 420억 파라미터, 최대 100만 토큰 컨텍스트
• •텍스트·이미지·오디오·비디오 입력 지원, 에이전틱 코딩에 특화 훈련
• •256개 전문가 중 토큰당 8개 선택하는 MoE 구조로 추론 속도 확보
• •BF16·NVFP4 체크포인트 공개, 현재 가장 강력한 미국산 오픈웨이트 모델로 평가