OrchSLM은 소형언어모델(SLM) 여러 개가 각자 후보 답안을 생성하고 라우터가 상호작용 없이 그 결과만으로 최종 답을 고르는 '비대화형 오케스트레이션' 방식을 통합해 분석하는 라우팅 프레임워크다. LLM은 클라우드 규모 인프라 의존으로 지연시간·프라이버시·연결성·비용 문제가 있는 반면, SLM은 반복적이고 범위가 좁은 에이전트 하위작업에 더 적합할 수 있지만 좁은 컨텍스트 창 때문에 장기추론이나 반복 검증·토론 같은 상호작용 중심 전략에는 한계가 있다. 연구진은 OrchSLM을 이용해 과제 구조, 모델 풀 구성, 다중 에이전트 합의 방식 등 다양한 설정 값이 오케스트레이션 성능에 미치는 영향을 체계적으로 분석했다.

• •OrchSLM은 여러 소형언어모델(SLM)이 독립적으로 생성한 후보 답안을 라우터가 선택하는 비대화형 오케스트레이션 프레임워크다.
• •SLM은 지연시간·비용·프라이버시 면에서 유리하지만 좋은 컨텍스트로 장기추론에는 한계가 있다.
• •과제 구조, 모델 풀 구성, 다중 에이전트 합의 방식 등을 조절 가능한 변수로 노출해 오케스트레이션 동작 원리를 분석했다.