이 논문은 대형언어모델이 추론 능력이 있음에도 실패하는 경우가 많은 이유를 중간 단계의 국소적 '추론 버그' 때문이라고 분석하고, 이를 수정하는 학습 기법 '우드페커 디스틸레이션(Woodpecker Distillation)'을 제안한다. 연구팀은 동일한 강모델의 추론 진행 이후 약한 프로브 모델이 생성한 짧은 패치를 삽입하면 정답 경로로 궤도를 되돌릴 수 있음을 보였지만, 이런 교정 효과는 약한 패치나 수정된 경로에 직접 파인튜닝하는 것만으로는 안정적으로 내재화되지 않았다. 이는 유용한 신호가 개입 텍스트 자체가 아니라 그것이 모델의 향후 추론 분포를 재구성하는 방식에 있음을 시사한다. 우드페커 디스틸레이션은 동일 접두어에서 성공·실패한 약모델 패치를 대조해 교정 교사 분포를 구성하고 이를 강모델에 증류하는 약-강(weak-to-strong) 학습 프레임워크로, 수학 추론 벤치마크에서 직접 모방 기법보다 일관되게 우수한 성능을 보였다.

• •LLM 추론 실패 원인을 중간 단계의 국소적 '추론 버그'로 진단
• •약한 프로브 모델의 짧은 패치 삽입으로 강모델 추론 괼도 수정 가능
• •단순 파인튜닝만으로는 교정 효과가 안정적으로 내재화되지 않음 발견
• •성공·실패 약모델 패치를 대조해 교정 교사 분포를 구성, 강모델에 증류
• •수학 추론 벤치마크에서 직접 모방 기법 대비 일관된 성능 개선