ZGCM-1은 극한의 데이터·시스템·알고리즘 효율성으로 처음부터 학습된 70억 파라미터 규모의 완전 공개형 파운데이션 모델이다. 소형 모델은 웹 지식을 수동적으로 암기하는 대신 내부적 사고와 외부 도구 사용을 결합해 용량 한계를 극복해야 한다는 전제 아래, 게이트형 슬라이딩 윈도우와 전체 어텐션을 교차 배치한 아키텍처와 안정적인 FP8 뮤온 옵티마이저, 16K·64K·256K로 이어지는 점진적 컨텍스트 확장 커리큘럼을 적용했다. 70억 모델군 내에서 경쟁력 있는 성능을 보였고, 일부 수학추론·에이전틱 검색 과제에서는 Qwen3-235B-A22B, GLM-5.1 등 훨씬 큰 프런티어 모델과도 견줄 만한 결과를 냈으며, 16K 사전학습 시간 대비 손실 기준으로 약 4.2배의 효율 개선을 보였다. 연구진은 모델 가중치, 학습 코드, 단계별 데이터와 로그까지 모두 공개했다.

• •ZGCM-1은 70억 파라미터 규모로, 극한의 효율성을 목표로 처음부터 학습된 완전 공개형 파운데이션 모델이다.
• •게이트형 슬라이딩 윈도·전체 어텐션 교차 아키텍처와 FP8 뮤온 옵티마이저, 16K~256K 점진적 컨텍스트 확장을 적용했다.
• •일부 수학추론·에이전틱 검색 과제에서 훨씬 큰 Qwen3-235B-A22B, GLM-5.1과 견줄 성능을 보였다.
• •16K 사전학습 시간 대비 손실 기준 약 4.2배의 효율 개선을 달성했다.
• •모델 가중치, 학습 코드, 단계별 데이터·로그를 전면 공개했다.