주문·결제·재고·배송처럼 모듈화된 시스템에서 활동하는 LLM 에이전트에게 인과적 세계 모델이 언제 도움이 되는지를 규명했다. 결제가 배송보다 먼저 일어났다는 관찰만으로는 결제가 배송을 승인하는지, 재고가 매개하는지 알 수 없다는 문제에서, 지역적 행동이 모듈 간 인터페이스에 개입-반응 증거를 제공하는 FedCausalCompose 프레임워크를 제안했다. 관찰 기반 세계 모델은 막힌 백도어 경로 아래에서 환원 불가능한 개입 오차를 겪지만, 인터페이스 복원은 개입-반응 커버리지와 함께 개선된다는 것을 보였다. API 명세가 전제조건과 효과를 드러내는 구조화된 도구 환경에서는 인과적 인터페이스가 가장 크게 도움이 됐지만, 대화 환경에서는 짧은 주의 앵커 없이는 인과 정보가 무시되는 경향을 보였다.
- •결제→배송 같은 관찰 순서만으로는 모듈 간 실제 인과 관계를 구분할 수 없는 문제를 제기
- •지역 행동의 개입-반응 증거로 모듈 간 인터페이스를 복원하는 FedCausalCompose 프레임워크 제안
- •API 명세가 전제조건·효과를 명시하는 구조화된 도구 환경에서 인과적 인터페이스가 가장 크게 도움
- •대화·내러티브 환경에서는 짧은 주의 앵커 없이는 인과 정보가 무시되는 경향 확인
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
When Do Causal World Models Help Modular LLM Agents
- 1.모듈형 LLM 에이전트(주문·결제·재고·배송)를 위한 인과적 세계모델 FedCausalCompose 제안
- 2.관찰 기반 세계모델은 차단되지 않은 백도어 경로에서 개입 시점 예측 오차가 불가피함을 증명
- 3.개입-반응 커버리지가 늘수록 모듈 간 인터페이스 복원이 개선, 오라클 인과 구성은 비인과 하한을 능가
- 4.구조화된 툴 환경에서는 인과 인터페이스가 가장 도움되나, 대화·내러티브 환경에서는 주의 유도 장치 없으면 효과 사라짐
왜 중요한가?
에이전트가 여러 모듈에 걸쳐 행동할 때 관찰 데이터만으론 '무엇이 무엇을 유발하는지' 알 수 없다는 구조적 한계를 지적하고, 인과 정보가 실제로 도움이 되는 조건을 구체화한다.
언급 프로젝트
본문 미리보기
arXiv:2610.00012v1 Announce Type: new Abstract: LLM agents increasingly act through modular systems, such as order, payment, inventory, and shipment services, where actions in one module change which transitions are valid in another. Standard world models usually fit observational traces, but this is not the quantity needed for intervention-time planning: a trace may show that payment precedes shipment without identifying whether payment authorizes shipment, inventory mediates the effect, or a
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:40AI 초안
