에이전틱 코딩 시스템은 언어모델을 도구·프롬프트·제어 흐름으로 구성된 하네스와 결합하는데, 벤더들은 자사 모델에 맞춘 하네스를 제공하며 벤더-네이티브 조합이 더 많은 과업을 해결한다고 가정한다. 이 논문은 오염 통제된 256개 저장소·경진대회 과업으로 구성된 비공개 스위트에서 동일 모델 하에 하네스만 바꾸는 대조 실험으로 이 가정을 검증했다. 클로드 오푸스 4.8에서는 claude-agent-sdk 대비 deepagents가 -1.25%p, GPT-5.5에서는 openai-codex SDK 대비 deepagents가 +1.25%p로 어느 쪽도 평균 우위를 보이지 않았다. 다만 오푸스의 평균은 상반된 결과를 감추고 있었는데, 네이티브 하네스가 저장소 과업 61개에서는 9.0%p 뒤처지고 경진대회 과업 19개에서는 23.7%p 앞섰다(순열검정 p=0.003). 비용 면에서는 중립 하네스가 해결 과업당 오푸스 4.8에서 1.3~1.6배, GPT-5.5에서 1.2배 더 비쌌다.
- •벤더-네이티브 하네스가 우월하다는 통념을 오염 통제된 256개 과업 대조 실험으로 검증
- •오푸스 4.8과 GPT-5.5 모두에서 하네스 간 평균 성능 차이는 통계적으로 유의하지 않음
- •오푸스에서는 저장소 과업과 경진대회 과업의 결과가 정반대로 갈림(순열검정 p=0.003)
- •중립 하네스가 해결 과업당 비용은 오푸스에서 1.3~1.6배, GPT-5.5에서 1.2배 더 높음
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Harness or Model? Isolating the Harness Effect in Agentic Coding with a Contamination-Controlled Private Suite
- 1.에이전틱 코딩에서 '벤더 네이티브 하네스가 더 유리하다'는 통념을 256개 과제 사설 벤치마크로 검증
- 2.claude-opus-4-8·gpt-5.5를 각각 자사·중립(deepagents) 하네스로 동일 모델·상이 하네스 대조 실험
- 3.800건 중 792건 채점 결과 어느 쪽도 평균적 우위가 확정되지 않음(신뢰구간 모두 0 포함)
- 4.Opus는 저장소 과제 -9.0%p, 대회형 과제 +23.7%p로 상반되고, 중립 하네스 비용은 1.3~1.6배 높음
왜 중요한가?
'자사 모델엔 자사 하네스'라는 가정이 과제 유형에 따라 뒤집힐 수 있음을 통제된 실험으로 보여, 하네스·모델 조합 도입 시 과제 성격별 검증이 필요하다는 실무적 근거를 제공한다.
본문 미리보기
arXiv:2609.11987v1 Announce Type: new Abstract: An agentic coding system couples a language model to a harness: the tools, prompts and control flow that turn a chat model into an autonomous software engineer. Vendors ship harnesses tuned to their own models, and practitioners assume the vendor-native pairing solves more tasks. We measure that assumption with paired same-model contrasts on a private, contamination-controlled suite of 256 repository and post-cutoff contest tasks. The same 80 task
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:40AI 초안

![[10월12일] AI가 암을 치료해도 원리를 알아야 할까…수학자 타오의 질문에 쏟아진 반론](https://cdn.aitimes.com/news/photo/202610/216150_220160_1157.jpg)

