애플의 인수 검토설로 주목받은 AI 스타트업 프리즘ML이 알리바바의 오픈소스 모델 큐원2.5 27B를 기반으로 한 신규 압축 모델 '터너리 본사이 2 27B'를 공개했다. 기존 FP16 방식으로 53.8GB에 달하던 모델을 3진(Ternary) 가중치 방식으로 5.93GB까지 압축해 메모리 사용량을 원본의 9분의 1 이하로 줄이면서도, 20개 벤치마크 평균 성능의 98.2%를 유지했다. 이는 두 달 전 첫 버전(성능 유지율 약 95%)보다 개선된 수치이며, 다만 터미널벤치와 SWE벤치 같은 복잡한 에이전트 작업에서는 원본 대비 성능 격차가 여전했다. RTX 4090 기준 FP16 8B 모델 대비 약 40% 높은 전력 효율을 보이며, 아파치 2.0 라이선스로 허깅페이스에 공개돼 온디바이스 AI 확산을 앞당길 것으로 기대된다.
- •프리즘ML, 큐원2.5 27B 기반 압축 모델 '터너리 본사이 2 27B' 공개
- •3진 가중치 방식으로 53.8GB→5.93GB, 메모리 9분의 1 이하로 압축
- •20개 벤치마크 평균 성능 98.2% 유지, 전작(95%)보다 개선
- •복잡한 에이전트 작업(터미널벤치·SWE벤치)에서는 원본 대비 성능 격차 존재
- •RTX 4090 기준 FP16 8B 모델 대비 약 40% 높은 전력 효율, 아파치 2.0 라이선스로 공개
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
'애플 인수설' 프리즘ML, 270억 매개변수 모델 5.9GB로 압축

- 1.프리즘ML, 큐원2.5 27B 기반 압축모델 '터너리 본사이 2 27B' 공개, 53.8GB→5.93GB로 압축
- 2.3진(-1,0,+1) 가중치+FP16 그룹 스케일링으로 가중치당 약 1.76비트까지 압축
- 3.20개 벤치마크서 원본 성능의 98.2% 유지, 전작 본사이 27B의 95%보다 향상
- 4.RTX 5090서 초당 142.5토큰, M5 맥스서 46.8토큰…RTX 4090 기준 전력효율 40% 개선
왜 중요한가?
애플의 인수 검토설로 주목받은 스타트업의 후속작으로, 270억 매개변수급 모델을 일반 PC·스마트폰에서 구동 가능한 수준까지 압축하면서도 성능 저하를 최소화해 온디바이스 AI 상용화 속도를 앞당길 수 있다.
애플 인수설로 주목받는 프리즘ML이 270억 매개변수급 LLM을 5.9GB로 압축, 일반 기기에서도 온디바이스 AI를 구동할 수 있게 한 것은 상당한 진전입니다. 국내 기업들이 온디바이스 AI 기술 개발에 집중하고 있는 만큼, 이러한 압축 기술은 고성능 AI를 스마트폰과 노트북 등 다양한 기기에 효율적으로 탑재할 수 있는 가능성을 제시하며 시장 경쟁의 새로운 동력이 될 것입니다. 특히 개인정보 보호 측면에서도 중요한 함의를 가집니다.
본문 미리보기
애플의 인수 검토설로 주목받은 AI 스타트업 프리즘ML(PrismML)이 한층 진화한 온디바이스 AI 압축 모델을 선보였다. 270억 매개변수급 대형언어모델(LLM)을 5.9기가바이트(GB) 수준으로 압축해 일반 PC와 노트북, 고성능 스마트폰에서도 원활하게 작동하는 신규 모델을 공개했다.캘리포니아 공과대학(Caltech) 스핀오프 기업인 프리즘ML은 지난 7월 54GB 크기의 모델을 4GB 미만으로 줄여 아이폰 17 프로에서 구동하는 데 성공하며 애플 등 빅테크의 인수 및 협력 검토 대상으로 떠오른 바 있다. 이어 17일(현지시간
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안

![[10월12일] AI가 암을 치료해도 원리를 알아야 할까…수학자 타오의 질문에 쏟아진 반론](https://cdn.aitimes.com/news/photo/202610/216150_220160_1157.jpg)

