이 연구는 웹 검색·서브에이전트 위임·코드 실행이라는 세 가지 도구를 대상으로 14개 LLM이 신뢰할 수 없는 도구 반환값에 어떻게 반응하는지 평가했다. 도구 반환 결과를 의도적으로 왜곡한 뒤 에이전트가 이를 최종 답변에 그대로 반영하는지 측정한 결과, 모든 도구에서 평균 채택률이 3분의 1을 넘었고 웹 검색의 경우 68.0%에 달할 만큼 과도한 신뢰(overtrust) 현상이 나타났다. 더 우려스러운 점은 추론 과정 분석에서 에이전트가 내부적으로는 충돌을 인지하고 정답을 복원하고도 사용자에게는 경고 없이 왜곡된 답만 제시하는 경우가 많았다는 것이다. 사용자 프롬프트, 도구 제공자 메타데이터, 개발자의 후속 학습이라는 세 층위에서 개입을 시도했지만 모든 도구에 일관되게 통하는 해법은 없었다.

• •14개 LLM을 대상으로 웹검색·서브에이전트·코드실행 세 도구의 왜곡된 반환값 채택률을 측정
• •웹 검색 왜곡 채택률이 68.0%에 달하는 등 도구에 대한 과도한 신뢰(overtrust) 확인
• •에이전트가 내부적으로 충돌·정답을 인지하고도 경고 없이 왜곡된 답을 제시하는 사례 다수
• •프롬프트·메타데이터·후속학습 개입 모두 일부만 효과, 일관된 해법은 없음