사람의 정정이 틀릴 수도 있을 때 체화된 에이전트가 수락·거부·세계 검사·재질문 중 무엇을 선택해야 하는지를 다루며, 관찰 기반 증거와 기대 손실 규칙으로 이를 구현한 GAVA를 제안했다. ALFWorld에서 972쌍을 평가한 결과 완전한 지역 검사 시 GAVA와 항상-검증 모두 100%의 정정 정확도를 달성해 증거 계약 자체가 성립함을 보였다. 학습에만 쓰인 사물 위치 사전지식을 도입하자 미지 시나리오에서 균일 GAVA 대비 상호작용·결합 비용이 각각 0.490, 0.420 낮아졌고, 정책 고정 후 재현에서도 두 지표의 95% 신뢰구간이 모두 0을 배제했다. 다만 환경적 정보 가치가 명확화 질문보다 일반적으로 우월하다는 결론은 아니며, 실제 로봇·시각 입력 없는 통제된 설정에서만 검증됐다.
- •사람의 정정이 틀릴 수 있을 때 수락·거부·세계 검사·재질문을 선택하는 GAVA 프레임워크를 ALFWorld에서 평가
- •완전한 지역 검사 시 GAVA와 항상-검증 모두 100% 정정 정확도, 증거 계약 자체는 성립함을 확인
- •사물 위치 사전지식 도입 시 미지 시나리오에서 상호작용·결합 비용이 각각 0.490, 0.420 감소
- •환경적 정보 가치가 명확화 질문보다 일반적으로 우월하다는 결론은 아니며 실제 로봇에서는 미검증
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Knowing When to Yield: Grounded Arbitration of User Corrections in Text-Based Embodied Agents
- 1.GAVA, 로봇 에이전트가 사용자 정정 지시를 수용·거부·확인할지 결정하는 중재 프레임워크 제안
- 2.ALFWorld 162개 체크포인트·972건 개입에서 완전 검증 시 정정 정확도 100% 달성
- 3.객체 위치 사전정보 적용 시 상호작용·비용을 '항상 확인' 대비 0.490·0.420 감소
- 4.77개 검증 체크포인트(308개 시나리오)에서도 0.595·0.517 감소로 재현
왜 중요한가?
사람의 정정이 틀릴 수도 있는 상황에서 에이전트가 언제 되묻고 언제 수용할지 정하는 원칙을 제시해, 실환경 로봇·대화 에이전트의 불필요한 확인 비용을 줄일 근거를 제공한다.
본문 미리보기
arXiv:2610.00282v1 Announce Type: new Abstract: How should an embodied agent respond when a person's correction may be wrong? We formulate grounded correction arbitration as a choice among accepting, rejecting, inspecting the world, and asking the speaker. GAVA implements this interface with observation-bounded evidence, legal probes, and a one-step expected-loss rule. In text-only ALFWorld, 162 checkpoints produce 972 paired true and false interventions. Complete local inspections give GAVA an
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:40AI 초안
