디코딩 시점 KV 캐시 압축 연구는 대부분 더 나은 토큰 점수화 함수 설계에 집중하고, 디코딩 단계마다 점수를 누적하는 시간적 규칙은 구현 세부사항으로 취급돼 왔다. 연구진은 공격적인 KV 압축 하에서 지수이동평균(EMA) 집계를 쓰면 순서를 대체로 보존하는 점수화 방식들의 차이가 축출 대상 집합 수준에서 거의 구별되지 않는다는 점을 발견했다. 반면 KeyDiff, 키 노름, 최근성, 학습된 점수화 방식은 순위를 바꿔 성능을 크게 저하시켰다. 이 관찰을 바탕으로 EMA 기반 축출 기법 'InertiaKV'와 주기적 갱신 변형 'InertiaKV-Lazy'를 제안했으며, 후자는 전체 갱신 방식 대비 1.34~1.46배의 디코딩 처리량을 달성했다. 또한 첫 디코딩 단계에서 전체 맥락을 한 번만 점수화하고 이후 순위를 고정하는 '점수화 없는(Score-Free)' 디코딩도 평균 +0.03의 미미한 품질 변화로 이후 모든 점수화를 생략할 수 있음을 보였다.

• •시간적 점수 집계 규칙이 KV 압축 성능에 미치는 영향을 조명, 기존에는 구현 세부사항으로 취급됨
• •EMA 집계 사용 시 순서 보존형 점수화 방식들이 축출 결과에서 거의 구별되지 않음을 발견
• •EMA 기반 InertiaKV와 주기적 갱신 변형 InertiaKV-Lazy 제안, 후자는 처리량 1.34~1.46배 향상
• •점수화 없는(Score-Free) 디코딩은 첫 단계 점수화만으로 이후 전체 갱신 생략, 품질 변화 +0.03에 불과
• •6개 오픈웨이트 모델과 LongBench·LongBench-v2·RULER 벤치마크로 검증