메이투안, 중국산 칩으로 학습한 1.6조 매개변수 '롱캣-2.5' 공개↗ (원문, 새 창)

메이투안이 중국산 AI 반도체로 학습한 1조6000억 매개변수 규모의 멀티모달 에이전트형 모델 '롱캣-2.5'를 공개하고 API 서비스를 시작했다. MoE 구조로 토큰당 약 480억개만 활성화하며, 복잡한 코딩 평가 '딥SWE 1.1'에서 9.7점에서 64.6점으로, 웹 검색 평가 '브라우즈컴프'에서는 79.9점에서 91.9점으로 대폭 상승해 클로드 오퍼스 5(90.8점)를 앞섰다. 다만 터미널벤치 4.0에서는 38.5점으로 클로드 오퍼스 5(53.9점)에는 미치지 못했다. 가중치와 연산 데이터를 4비트로 압축하는 W4A4 양자화를 적용해 입력·출력 처리량을 각각 43.3%, 42.77% 늘렸으며, 모델 가중치는 아직 공개하지 않았다.

• 1조6000억 매개변수 MoE 모델, 토큰당 약 480억개 활성화, 중국산 AI 반도체로 학습
• 브라우즈컴프 91.9점으로 클로드 오퍼스 5(90.8점) 상회, 딥SWE 1.1은 9.7→64.6점 급상승
• 터미널벤치 4.0은 38.5점으로 클로드 오퍼스 5(53.9점)에는 못 미쳐
• W4A4 4비트 양자화로 입력 처리량 43.3%·출력 처리량 42.77% 증가