언어 에이전트가 계획 중 상상한 상태 변화가 환각으로 컨텍스트에 기록돼 후속 결정으로 전파되는 실패 양상을 정량화하고, 이를 억제하는 Hybrid World-Model Planning(Hybrid-WM)을 제안한 논문이다. LLM을 플래너로 유지하되 소형 파라메트릭 전이 모델이 행동 유효성·상태 변화량·위험·가치를 예측하고, 일관성 게이트가 에이전트의 상상 델타와 파라메트릭 예측을 비교해 불일치할 때만 표적 수정을 촉발한다. 환각 상태 비율, 전파 깊이, 장기 오류 증가 등 새 지표도 도입했다. 4개 그래프 구조 계획 벤치마크에서 GPT-4o-mini 실측 평가 시 환각 상태 비율을 0.176에서 0.035로 줄였고, 시뮬레이터 절제 실험에서 성공률을 0.668에서 0.838로 올렸다. 경량 파라메트릭 모델이 의미적 추론을 대체하지 않으면서 효과적인 접지(grounding) 장치가 될 수 있음을 보여준다.
- •에이전트가 상상한 상태 변화가 컨텍스트에 기록돼 전파되는 환각 실패 양상을 체계적으로 분석
- •환각 상태 비율·전파 깊이·장기 오류 증가 등 에이전트-월드모델 오류 측정 지표 신규 도입
- •LLM 플래너 + 소형 파라메트릭 전이 모델 + 불일치 시에만 수정을 촉발하는 일관성 게이트 구조
- •GPT-4o-mini 실측에서 환각 상태 비율 0.176→0.035, 시뮬레이터 실험에서 성공률 0.668→0.838
- •추가 추론 비용이 적어 경량 접지 메커니즘으로 실용적
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Grounded Iterative Language Planning: How Parameterized World Models Reduce Hallucination Propagation in LLM Agents
- 1.언어 에이전트 세계모델의 두 형태(API 기반·파라미터화)의 한계를 비교 분석
- 2.작은 파라미터 백본과 LLM 추론을 결합한 Grounded Iterative Language Planning(GILP) 제안
- 3.일관성 게이트가 LLM과 백본 예측이 불일치하면 수정을 요청해 환각 억제
- 4.GPT-4o-mini에서 환각 상태율 0.176→0.035, 성공률 0.668→0.838(호출 22%만 추가)
왜 중요한가?
유연한 언어 추론은 환각 상태를, 학습형 예측기는 약한 단독 계획 성능을 갖는 트레이드오프를, 소형 백본과 일관성 검증의 결합으로 동시에 완화. 적은 추가 비용으로 LLM 에이전트 계획의 신뢰성을 높인다.
언급 프로젝트
본문 미리보기
arXiv:2606.27806v1 Announce Type: new Abstract: World models for language agents come in two useful forms. An agent-based world model calls an LLM API and reasons flexibly in language, but its errors appear as hallucinated state changes that are hard to score with ordinary regression losses. A parameterized world model is a trained transition predictor; its errors are easier to measure with quantities such as NodeMSE, delta accuracy, and validity accuracy, but it is usually weaker as a standalo
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 13:08AI 초안
