Thinking Machines가 이미지·텍스트·오디오를 네이티브로 입력받는 1조 파라미터급 오픈 멀티모달 모델 Inkling을 Hugging Face에 공개했다. 총 975B·활성 41B 파라미터의 MoE 구조에 1M 컨텍스트를 지원하며, 45조 토큰의 텍스트·이미지·오디오·비디오로 학습됐다. RoPE 대신 상대 어텐션, 5:1 슬라이딩 윈도우-글로벌 하이브리드 어텐션, 짧은 1D 컨볼루션(SConv) 등 독특한 아키텍처를 채택했고, MTP 드래프터로 추측 디코딩 가속을 지원한다. BF16(2TB VRAM)과 NVFP4(600GB) 체크포인트로 제공되며 transformers·SGLang·vLLM·llama.cpp를 Day-0 지원한다. HLE(도구 사용) 46.0%, SWEBench Verified 77.6% 등 벤치마크에서 오픈 모델 최상위권으로, 멀티모달 추론 앱과 파인튜닝 기반 도메인 적응의 새 기반이 될 만하다.

• •총 975B·활성 41B MoE, 1M 컨텍스트, 이미지·텍스트·오디오 네이티브 입력의 첫 초대형 오픈 모델
• •RoPE 대신 상대 어텐션, 5:1 하이브리드 어텐션, SConv 등 독특한 아키텍처 채택
• •BF16은 2TB, NVFP4는 600GB VRAM 필요 — Unsloth 1비트 양자화로 86% 압축 가능
• •HLE(도구) 46.0%, SWEBench Verified 77.6%, AIME 2026 97.1% 등 오픈 모델 최상위권
• •transformers·SGLang·vLLM·llama.cpp Day-0 지원, tinker로 포스트트레이닝 지원