리퀴드AI(LiquidAI)가 LFM2.5 시리즈(230M·350M·1.2B-Instruct·2.6B) 모델의 4비트 양자화 체크포인트를 양자화 인식 증류(QAD) 기법으로 새로 공개했다. 고정밀 교사 모델의 지식을 양자화된 학생 모델에 증류하는 방식으로, 기존 Q4_0 수준의 메모리 사용량과 속도를 유지하면서도 양자화로 손실된 BF16 대비 정확도의 97%를 회복했다. GPQA Diamond, MMLU-Pro, IFEval 등 벤치마크에서 네 모델 모두 각각 BF16 기준 성능의 96.5~97.4%를 유지했으며, 맥북프로·삼성 갤럭시S26울트라 등 실제 엣지 기기에서 기존 대비 최대 33% 높은 디코딩 처리량을 보였다. 해당 GGUF 파일은 허깅페이스에서 즉시 내려받아 llama.cpp 등에서 사용할 수 있다.

• •리퀴드AI, QAD 기법으로 LFM2.5 4종 모델의 새 Q4_0 체크포인트 공개
• •양자화로 손실된 BF16 대비 정확도의 96.5~97.4% 회복
• •맥북프로·삼성 갤럭시S26울트라 등에서 기존 대비 최대 33% 높은 처리량
• •허깅페이스에서 GGUF 파일 즉시 다운로드 가능, llama.cpp 등에서 바로 사용