Top-k MoE 라우팅은 불연속적이라 4비트 KV 캐시 양자화 같은 배포 환경의 수치적 교란이 토큰이 전문가를 선택하는 결정 경계를 넘게 만들어 라우팅이 뒤바뀐다(route flip). 연구진은 OLMoE-1B-7B 모델의 4비트 KV 양자화에서 손상의 약 31%가 라우팅에 의해 매개된다는 것을 사전등록 실험으로 확인했다. 라우터 마진 지표는 플립 발생 여부는 AUC 0.772로 잘 탐지하지만, 그 플립이 유익한지 해로운지는 예측하지 못해(우연 수준) 선택적 복구에 한계가 있음을 보였다. 실제 int4 KV 커널 실험에서도 유사한 손상 비율이 관찰돼 결과의 일반성을 뒷받침했다. 이는 양자화로 인한 라우팅 오류를 사전에 걸러내는 완화책 설계가 생각보다 어렵다는 것을 시사한다.

• •OLMoE-1B-7B의 4비트 KV 양자화 손상 중 약 31%(RMF 0.31)가 라우팅 변경(route flip)에서 비롯됨
• •라우터 마진 지표는 플립 발생을 AUC 0.772로 탐지하지만 유익/유해 여부는 우연 수준으로만 구분 가능
• •실제 int4 KV 커널 실험에서도 유사한 손상 비율이 재현돼 결과의 강건성을 뒷받침
• •가설과 임계값을 사전등록해 검증한 방법론으로 재현성을 높임