AI 에이전트의 장기 작업 실행 로그에서 실패 원인을 자동으로 찾아내는 것은 사실상 대규모 탐색 문제라는 점에 착안해, 연구진은 판정 LLM이 여러 차례에 걸쳐 미해결 증거를 계속 찾도록 유도하는 반복 탐색 프레임워크 'Continual Search'를 제안했다. 기존 근본원인분석(RCA) 방법은 한 번의 LLM 판단에 의존해 궤적이 길어질수록 초기에 그럴듯한 진단에 안주하는 문제가 있었다. 연구진은 대규모 실행 궤적 평가를 위해 사람이 직접 라벨링한 50개의 장기·고실행량 실패 사례로 구성된 새 벤치마크 'MegaRCA-Mix'를 함께 공개했다. Continual Search는 여러 벤치마크에서 일관되게 진단 성능을 높였고, MegaRCA-Mix에서는 GPT-5.5의 F1 점수를 0.349에서 0.498로 40% 이상 끌어올렸으며, 하위 등급 모델이 반복 탐색을 통해 상위 등급 모델을 능가하는 사례도 확인됐다.
- •'Continual Search'는 판정 LLM이 여러 턴에 걸쳐 미해결 진단 증거를 계속 찾도록 유도하는 반복 탐색 프레임워크다.
- •기존 방식은 한 번의 LLM 판단에 의존해 긴 실행굤적에서 초기 진단에 안주하는 한계가 있었다.
- •사람이 라벨링한 50개 장기 실패 사례로 구성된 신규 벤치마크 'MegaRCA-Mix'를 함께 공개했다.
- •MegaRCA-Mix에서 GPT-5.5의 F1 점수가 0.349→0.498로 40% 이상 향상됐다.
- •반복 탐색을 적용하면 하위 등급 모델이 상위 등급 모델의 성능을 넘어서기도 했다.
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Root-Cause Attribution Is a Search Problem: Continual Search for Long-Horizon Agent Failures
- 1.장기 에이전트 실행 로그 실패 원인 진단(RCA), LLM 판사 1회성 판단은 긴 트레이스에서 정확도 급락
- 2.Continual Search: 판사가 여러 턴에 걸쳐 미해결 증거를 계속 탐색하도록 유도하는 반복 프레임워크 제안
- 3.신규 벤치마크 MegaRCA-Mix(장기·실행집약 실패 50건) 도입해 대규모 RCA 평가
- 4.MegaRCA-Mix에서 GPT-5.5의 F1 점수를 0.349→0.498로 40% 이상 향상
왜 중요한가?
에이전트가 장기 과업에 투입되며 방대한 실행 로그의 실패 원인을 사람이 다 검토할 수 없게 된 상황에서, "더 오래 검색"하는 접근이 모델 크기보다 진단 정확도를 좌우한다는 결과는 에이전트 신뢰성 도구 설계에 실질적 시사점을 준다.
본문 미리보기
arXiv:2609.13463v1 Announce Type: new Abstract: The increasing deployment of AI agents in long-horizon tasks yields massive execution logs. Diagnosing failures within these records is crucial for reliability, as it transforms outcome-level signals into actionable interventions. The sheer scale of the data renders human review impractical, driving the need for automated root-cause attribution (RCA). However, automated RCA methods using LLMs suffer from low diagnostic accuracy, especially as exec
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:40AI 초안

![[10월12일] AI가 암을 치료해도 원리를 알아야 할까…수학자 타오의 질문에 쏟아진 반론](https://cdn.aitimes.com/news/photo/202610/216150_220160_1157.jpg)

