CARGO는 별도 라우터 학습 없이 로컬 LLM과 클라우드 LLM 간 오프로딩을 결정하는 학습 불필요(training-free) 라우팅 프레임워크다. 로컬 모델이 프롬프트를 변형해 샘플링한 응답들 간의 일치도를 신뢰 신호로 사용하고, 베이지안 조기 종료로 샘플 효율을 높이며, 배포 시 가벼운 캘리브레이션만으로 임의의 협업 비율을 지원한다. 다양한 추론·QA 태스크와 여러 로컬 모델 계열에서 기존 학습 불필요 베이스라인을 일관되게 능가했고, 일부 설정에서는 지도학습된 라우터까지 앞섰다. 리소스 제약 환경에서 라우터 훈련 비용 없이 로컬-클라우드 협업을 구축할 수 있다는 실용적 시사점을 준다.

• •CARGO: 라우터 학습이나 파인튜닝 없이 로컬-클라우드 LLM 오프로딩을 결정하는 training-free 프레임워크
• •로컬 모델의 프롬프트 변형 샘플링 응답 간 일치도를 신뢰도 신호로 활용
• •베이지안 조기 종료로 샘플 효율적 불확실성 제어, 배포 시 경량 캘리브레이션으로 목표 협업 비율 조절 가능
• •여러 태스크·모델 계열에서 training-free 베이스라인을 상회하고 일부 설정에선 지도학습 라우터도 능가