도구를 쓰는 LLM 에이전트가 과제를 성공적으로 완료한 듯 보이면서도 집행해야 할 정책을 조용히 위반하는 실패 모드를 다룬 연구다. 정책 허용적 환경에서는 도구가 도메인 정책상 금지된 상태 전이라도 형식만 맞으면 실행해, 도구도 에이전트 자기보고도 드러내지 못하는 '조용한 잘못된 상태'(예약 취소, 승객 수 변경 등)를 낳는다. τ²-bench 항공 도메인에서 예산 에이전트 실패의 78%가 도구 오류 없는 이런 실패였다. 저자들은 쓰기 전에 제안된 호출과 현재 상태를 검사하는 결정론적 읽기전용 사전 실행 게이트를 도입해, 4개 게이트로 gpt-4o-mini의 성공률을 29.6%→42.0%(+12.4%p, P=0.0012)로 높였다. 게이트가 발동한 과제에서 +19.2%p로 효과가 집중됐고, 자체 집행 도메인에서는 이득이 적었다. 프런티어급 gpt-5.2에서도 같은 실패가 남아 61.2%→71.6%로 개선됐다.

• •도구 오류 없이 정책을 위반하는 '조용한 잘못된 상태' 실패 모드를 τ²-bench 항공 도메인에서 분석
• •예산 에이전트 실패의 78%가 도구 오류 없는 조용한 상태 오류
• •결정론적 읽기전용 사전 실행 게이트 4개로 gpt-4o-mini 성공률 29.6%→42.0%(+12.4%p)
• •게이트 발동 과제에서 +19.2%p로 효과 집중, 자체 집행 도메인에서는 이득 적음
• •프론티어급 gpt-5.2에서도 동일 실패 지속, 게이트로 61.2%→71.6% 개선