코더와 테스트 작성자를 하나의 언어모델로 공동 학습하는 셀프플레이 방식은 코드 생성 강화학습을 고정 테스트 세트 너머로 확장할 수 있지만, 통과율 보상이 사소하고 변별력 없는 테스트로 극대화되는 '허용성 붕괴'와 독립동일분포 샘플링 테스트가 최빈 입력에 몰려 추정 분산을 키우는 '집중 편향' 두 가지 문제를 겪는다. 연구팀은 이 두 실패 모드를 모두 해결하는 단일 정책 GRPO 프레임워크 CoVer(공동학습 코더 및 검증기)를 제안했다. 정보이득(IG) 보상은 각 자체 생성 테스트의 통과/실패 벡터와 등급화된 정답 기반 정확도 신호 간 상호정보량을 점수화하고 공분산 부호로 게이팅해 양의 변별력을 가진 테스트만 보상받게 하며, 3단계 다양성 인식 선별 단계가 후보 풀을 행동적으로 비중복인 스위트로 정제해 고정 실행 예산에서 IG 추정기의 유효 표본 크기를 높인다. 5개 벤치마크에서 CoVer는 Qwen2.5-Instruct 백본 대비 7B에서 pass@1을 5.8점, 14B에서 7.1점 높였고 두 규모 모두에서 최고 매크로 평균을 달성했으며, CodeT 랭킹 파이프라인에 드롭인 백본으로 넣었을 때도 3.5점을 추가해 생성과 선별 양쪽에서의 이점을 보였다.
- •CoVer는 코더와 테스트 작성자를 함께 학습시키는 단일 정책 GRPO 프레임워크로 허용성 붕괴와 집중 편향을 동시에 해결한다
- •정보이득 보상은 상호정보량과 공분산 부호 게이팅으로 양의 변별력을 가진 테스트에만 보상을 준다
- •3단계 다양성 인식 선별로 후보 테스트 풀을 비중복 스위트로 정제해 추정기의 유효 표본 크기를 높인다
- •5개 벤치마크에서 Qwen2.5-Instruct 대비 pass@1을 7B에서 5.8점, 14B에서 7.1점 높였다
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Information-Gain Rewards over Diversity-Pruned Tests: GT-Anchored Verifier Co-Training for Reliable Code Generation
- 1.CoVer, 코더-검증자 공동학습의 '허용성 붕괴'·'집중 편향' 두 문제를 동시에 해결하는 단일정책 GRPO 프레임워크
- 2.정보이득(IG) 보상으로 정답신호와 공분산이 양(+)인 변별력 있는 테스트에만 보상 부여
- 3.3단계 다양성 인식 선별로 무효·입력중복·실행프로파일 필터링해 후보풀을 행동적으로 비중복화
- 4.LiveBench·MBPP 등 5개 벤치마크서 Qwen2.5-Instruct 대비 pass@1을 7B +5.8점, 14B +7.1점 향상
왜 중요한가?
코드생성 RL에서 흔한 '쉬운 테스트로 보상 극대화' 편법과 편향된 샘플링 문제를 정보이득 기반 보상설계로 동시에 해결해, 코드생성 에이전트 강화학습의 실질적 성능 개선 방법을 제시한다.
언급 프로젝트
본문 미리보기
arXiv:2609.21208v1 Announce Type: new Abstract: Self-play methods that co-train a single language model as both coder and test author promise to move code-generation RL beyond fixed test suites, but they suffer from two coupled pathologies: permissiveness collapse, where pass-rate rewards are maximised by trivial, non-discriminative tests, and concentration bias, where i.i.d. sampled tests cluster on modal inputs and inflate estimator variance. We introduce CoVer (Co-trained Coder and Verifier)
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:40AI 초안

![[10월12일] AI가 암을 치료해도 원리를 알아야 할까…수학자 타오의 질문에 쏟아진 반론](https://cdn.aitimes.com/news/photo/202610/216150_220160_1157.jpg)

