0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Run fast, private agents on-device with LFM2.5-24B-A2B
출처:HuggingFace Blog
AI 인사이트
개발자
- 1.LiquidAI가 온디바이스 에이전트용 추론모델 'LFM2.5-24B-A2B' 공개, 총 24B 중 활성 파라미터는 2B에 불과
- 2.LiveClaw 벤치마크 48.09점으로 총/활성 파라미터 약 50% 많은 Qwen3.6-35B-A3B(38.19점)를 상회
- 3.컨텍스트 윈도우 32K→131K 토큰 확장, 사전학습 토큰 17T→33T로 증가, 어휘 65K→128K로 확대
- 4.Apple M5 Max에서 184tok/s, 단일 NVIDIA B300에서 최대 21K tok/s 출력 — 동급 MoE 중 최고 속도
왜 중요한가?
적은 활성 파라미터로도 툴사용·에이전트 벤치마크에서 더 큰 모델을 앞섰다는 점에서, 온디바이스·저비용 에이전트 구동을 가능케 하는 효율성 돌파로 평가된다.
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
공유:
#온디바이스AI#에이전트모델#MoE#벤치마크
이 글이 만들어진 과정
- 10:39AI 초안
![[10월13일] 1년 반 만에 약속 지킨 저커버그…이제는 '개인용 초지능' 승부](https://cdn.aitimes.com/news/photo/202610/216183_220201_449.png)
