Long-Horizon-Terminal-Bench는 실험 재현, 소프트웨어 엔지니어링, 과학 컴퓨팅 등 9개 범주 46개 장기 터미널 과제로 AI 에이전트를 평가하는 벤치마크다. 각 과제를 세분화된 채점형 하위 과제로 분해해 최종 결과만이 아니라 중간 진척과 부분 점수까지 측정하는 밀집 보상 구조가 특징이다. 15개 프론티어 모델 평가에서 과제당 평균 990만 토큰, 231 에피소드, 85.3분이 소요됐고, 최강 모델도 부분보상 0.95 기준 pass@1 15.2%, 완전보상 기준 10.9%에 그쳤다(전체 평균 4.3%/1.7%). 수 시간짜리 개방형 워크플로에서 장기 계획·긴 컨텍스트 관리·반복 디버깅이 여전히 큰 미개척 영역임을 보여준다.
- •9개 범주 46개 장기 터미널 과제, 과제당 수백 에피소드와 수분~수시간 실행 필요
- •하위 과제 분해로 밀집 중간 보상과 부분 점수 측정 가능
- •15개 프론티어 모델 평균: 과제당 990만 토큰, 231 에피소드, 85.3분 소요
- •최상위 모델도 pass@1 15.2%(부분보상 0.95 기준), 전체 모델 평균은 4.3%에 불과
Long-Horizon-Terminal-Bench: Testing the Limits of Agents on Long-Horizon Terminal Tasks with Dense Reward-Based Grading
본문 미리보기
arXiv:2607.08964v1 Announce Type: new Abstract: AI agents have become capable of autonomously completing short, well-specified tasks. However, existing terminal benchmarks largely focus on simple problems that finish within minutes and are evaluated only by their final outcome. This setup overlooks intermediate progress and partial solutions, yielding sparse reward signals and an incomplete picture of agent capability. We introduce Long-Horizon-Terminal-Bench, a terminal benchmark of 46 long-ho
전체 내용이 궁금하다면?
원문을 직접 읽어보세요