IBM이 공식 블로그를 통해 'Granite Switch 4.1' 모델의 기술적 세부사항을 설명했다. 디시전 아LoRA와 가디언 아LoRA, 가장 빠른 음성인식 모델인 Granite Speech 5.0 Turbo CTC를 기본 모델에 결합해 하나의 엔드포인트에서 채팅·의사결정·음성 전사를 모두 처리한다. 어댑터들이 기본 모델의 KV 캐시를 공유해 전문 어댑터를 추가해도 비용이 거의 들지 않으며, 30B 모델은 5단계 RAG 작업에서 경쟁 모델 Jev-27B보다 훨씬 빠르게 완료했다. 3B 규모의 커스텀 모델은 둠 게임에서 초당 60~100개의 결정을 내려 Jev의 초당 10개보다 훨씬 빠른 속도를 보였고, 플레이 중 질문에 답하고 상황을 설명할 수도 있다.

• •Granite Switch 4.1은 디시전·가디언 아LoRA와 Granite Speech 5.0 Turbo CTC 음성인식 모델을 하나의 엔드포인트에 결합
• •어댑터들이 기본 모델의 KV 캐시를 공유해 전문 어댑터 추가 비용이 거의 들지 않음
• •30B 모델이 5단계 RAG 워크플로를 Jev-27B보다 훨씬 빠르게 완료
• •3B 커스텀 모델이 둠 게임에서 초당 60~100개 결정, Jev의 초당 10개보다 훨씬 빠르며 동시에 대화 가능
• •Mellea 애플리케이션 레이어와 연동하며 향후 어댑터 SDK와 커스텀 어댑터 학습 기능 추가 예정