DynaSteer는 Chain-of-Thought나 'Wait' 프롬프트가 모델을 더 많이 생각하게 할 뿐 진실로 이끌지 못하는 한계를 표현 편집(Representation Editing, RepE)으로 보완한 동적 프레임워크다. 저자들은 전개되는 추론 사슬 속 진실의 기하학을 분석해 세 가지 통찰을 밝혔다: 진실은 문장 수준에서 잠재 추론 패턴과 얽혀 인코딩되고, 효과적 개입은 불확실성 원리와 감쇠 효과를 따라 초기 고엔트로피 분기점에 국소화돼야 하며, 단순 스티어링 벡터는 노이즈로 올바른 궤적을 훼손할 위험이 있다는 것이다. DynaSteer는 패턴 클러스터링으로 추론 매니폴드를 분리하고 Fisher-LDA로 정제된 진실을 투영하며, 룩어헤드 엔트로피를 동적으로 모니터링해 필요할 때만 선택적으로 궤적을 조종·롤백한다. MATH 벤치마크에서 효과가 검증됐고, 도메인 외 코딩 과제에서도 일반화가 확인됐다. ICML 2026 채택 논문이다.
- •진실은 문장 수준에서 잠재 추론 패턴과 얽혀 인코딩된다는 통찰
- •효과적 개입은 불확실성 원리·감쇠 효과를 따라 초기 고엔트로피 분기점에 국소화 필요
- •패턴 클러스터링 + Fisher-LDA + 룩어헤드 엔트로피 감시로 선택적 조종·롤백
- •MATH 벤치마크 검증 및 도메인 외 코딩 과제 일반화 확인, ICML 2026 채택
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Search for Truth from Reasoning: A Dynamic Representation Editing Framework for Steering LLM Trajectories
- 1.DynaSteer, 추론 궤적을 동적으로 조종하는 표현 편집(RepE) 프레임워크 제안, ICML'26 채택
- 2.진실성은 문장 단위로 인코딩되며 초기 고엔트로피 분기점에 개입해야 효과적임을 발견
- 3.패턴 클러스터링으로 추론 매니폴드를 분리하고 Fisher-LDA로 정제된 진실 방향을 투영
- 4.룩어헤드 엔트로피를 감시해 필요할 때만 선택적으로 조종·롤백, MATH·코딩서 효과 확인
왜 중요한가?
Chain-of-Thought나 'Wait' 프롬프트가 더 많이 생각하게 만들 뿐 정답으로 유도하지 못하던 한계를, 추론 도중 진실성이 인코딩되는 지점을 찾아 내재적으로 개입하는 방식으로 넘어섰다. 잡음 있는 순진한 스티어링 벡터의 부작용을 줄여 올바른 궤적을 보존한다는 점에서 실용적이다.
언급 프로젝트
본문 미리보기
arXiv:2606.28589v1 Announce Type: new Abstract: Current approaches to enhance Large Language Model (LLM) reasoning, such as Chain-of-Thought and "Wait" prompts, primarily encourage models to think more, yet often fail to guide them toward Truth. While Representation Editing (RepE) offers a intrinsic control, its application to dynamic reasoning trajectories remains underexplored. In this work, we bridge this gap by investigating the geometry of truth within unfolding reasoning chains. We uncove
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:40AI 초안
