알리바바 큐원팀이 차세대 Qwen4 아키텍처를 미리 보여주는 오픈웨이트 모델 'Qwen3.8-Flash-Next'를 공개했다. 총 1250억 파라미터 중 토큰당 60억개만 활성화하는 MoE 구조이며, GPU가 아닌 시스템 RAM에서 구동되는 510억 파라미터 규모의 'N그램 임베딩' 층을 새로 도입했다. Qwen3.7-Plus(3970억 파라미터) 대비 약 9분의 1의 학습 비용으로 더 나은 성능을 냈다고 주장하며, SWE-bench Pro(62.5점)와 DeepSWE(58.7점)에서 딥시크-V4-Flash와 앤트로픽 클로드 오퍼스 4.6을 앞섰다. 가격은 입력 100만 토큰당 0.16달러, 출력 0.47달러로 자사 플래그십 Qwen3.8-Max 대비 약 12분의 1 수준이며, 26만2144토큰 컨텍스트를 기본 지원하고 YaRN으로 100만 토큰까지 확장 가능하다.

• •총 1250억 파라미터 중 토큰당 60억개만 활성화하는 MoE 모델, Qwen4 아키텍처 프리뷰로 공개
• •GPU 대신 시스템 RAM에서 구동되는 신개념 'N그램 임베딩' 층(510억 파라미터) 도입
• •Qwen3.7-Plus 대비 약 9분의 1 학습비용으로 SWE-bench Pro·DeepSWE 등에서 더 높은 점수 기록
• •가격은 입력 100만토큰당 0.16달러·출력 0.47달러, 플래그십 Qwen3.8-Max 대비 약 12분의 1
• •26만2144 토큰 기본 컨텍스트, YaRN으로 최대 100만 토큰까지 확장 지원