MCP(Model Context Protocol) 기반 에이전틱 LLM은 매 턴마다 장황한 도구 스키마를 재인코딩해야 해, 도구 레지스트리가 커질수록 프리필이 첫 토큰 응답시간(TTFT)을 지배한다. Nexus는 라우팅을 스키마 프리필 비용에서 분리하는 것을 핵심으로 한다. INT8 시맨틱 라운드어사이드 버퍼(SLB)와 보정된 교차인코더 마진 게이트로 검색 기반 도구 선택을 하고, 이어붙인 KV 캐시가 아닌 압축된 텍스트 시그니처(중앙값 19토큰) 위에서 인자를 생성한다. 이 경로는 깊이 독립적이어서 레지스트리가 250개 도구로 늘어나도 라우팅 정확도가 약 89%를 유지하며, 전체 스키마 재프리필 대비 첫 인자 토큰 도달이 1.66배 빠르고 메인 컨텍스트 토큰을 약 80% 절약한다. 보조 수단인 컴파일된 스키마 KV 블록 직접 이식은 로터리 위치 임베딩(RoPE) 위상 드리프트로 앵커를 벗어나면 손상되는데, 임계값 P=256을 넘으면 깊이 적응형 재디코딩으로 복구해 출력 충실도를 보장하며 중간 깊이에서 TTFT가 1.1~1.7배 빨라진다.

• •Nexus: INT8 시맨틱 라운드어사이드 버퍼(SLB)+교차인코더 마진 게이트로 도구 라우팅을 스키마 프리필과 분리
• •압축 텍스트 시그니처(중앙값 19토큰) 기반 인자 생성으로 도구 250개까지 라우팅 정확도 약 89% 유지
• •전체 스키마 재프리필 대비 첫 인자 토큰 도달 1.66배 빠르고 메인 컸텍스트 토큰 약 80% 절약
• •보조 수단인 컴파일 스키마 KV 이식은 RoPE 위상 드리프트로 앞커 이탈 시 손상, P=256 초과 시 재디코딩으로 복구
• •출력 충실도 보장(D_KL≈0), 중간 깊이에서 TTFT 1.1~1.7배 향상(Qwen2.5-14B 기준)