PrismML이 발표한 'Bonsai 2 27B'는 알리바바의 오픈소스 모델 Qwen3.8 27B를 5.9GB로 압축해 PC와 고성능 스마트폰에서 구동할 수 있게 만든 추론 모델이다. '삼진(ternary)' 가중치 방식으로 16비트 가중치를 +1·−1·0 세 값으로 단순화해 메모리를 9~10배 줄이면서도 벤치마크 성능의 98%를 유지했다. 캘리포니아공대 출신 창업자 바박 하시비가 이끄는 이 스타트업은 코슬라벤처스 등의 투자를 받았으며, 이전 모델은 누적 1100만 다운로드를 기록했다. 회사는 향후 수백억 파라미터급 대형 모델에도 같은 압축 기법을 적용할 계획이라고 밝혔다.

• •Bonsai 2 27B는 Qwen3.8 27B를 5.9GB로 압축해 9~10배 메모리 절감
• •가중치를 +1·−1·0 세 값으로 단순화하는 '삼진' 압축 기법 사용
• •벤치마크 성능 98% 유지, 이전 버전(95%)보다 개선
• •누적 다운로드 1100만+260만 건 기록
• •향후 수백억 파라미터급 모델에도 압축 기술 확장 계획