스킬-정책 공동진화는 에이전트의 정책 모델과 스킬 뱅크가 훈련 중 서로를 개선하는 유망한 자기개선 패러다임이지만, 배포 후에는 정책 재훈련보다 스킬이 더 자주 바뀌어 평가가 다루지 않는 '표류한 스킬 뱅크' 문제가 생긴다. 연구팀은 이론·실증 분석으로 이 취약성이 우연이 아니라, 공동진화 방법들이 공유하는 '협력적 수용' 규칙이 정책의 역량을 훈련 당시의 뱅크에 묶어버리기 때문이라는 것을 보였으며, 공동진화 훈련이 진행될수록 스킬 표류에 대한 민감도가 커졌다. 이에 스킬 표류를 시뮬레이션하고 일관성률·저항률을 추가한 배포 지향 평가 프로토콜 CODA를 도입했다. 4개 공동진화 기법·5개 벤치마크(6개 설정)에서 최악 경우 성공률은 측정된 최고치보다 5~13점 낮았고, 이는 스킬 없는 기준선 대비 얻은 이득의 52~93%를 소거하는 수준이었다.
- •스킬-정책 공동진화 에이전트가 배포 후 스킬 표류에 취약한 이유를 이론·실증으로 규명
- •원인은 공동진화 방법들이 공유하는 '협력적 수용' 규칙 자체에 있음을 확인
- •스킬 표류 시뮬레이션과 일관성률·저항률 지표를 추가한 배포 지향 평가 프로토콜 CODA 제안
- •최악 경우 성공률이 측정 최고치보다 5~13점 낮아 스킬 없는 기준선 대비 이득의 52~93%가 소거됨
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Evolving Together, Failing Apart: The Skill-Policy Co-evolution Trap in Self-Improving Agents
- 1.정책모델과 스킬뱅크가 함께 진화하는 '스킬-정책 공진화' 에이전트의 숨은 취약점을 CODA로 규명
- 2.배포 후 스킬이 재훈련보다 자주 바뀌면 정책이 '드리프트된 스킬뱅크'에서 취약해짐을 이론·실험으로 입증
- 3.4개 공진화 기법·5개 벤치마크서 최악 드리프트 성능이 정점 대비 5~13점 하락, 이득의 52~93% 소실
- 4.CODA는 success rate 외에 '의미보존 편집 일관성', '손상 스킬 저항성' 두 지표를 추가 제시
왜 중요한가?
자가개선 에이전트 평가가 고정된 스킬뱅크 기준의 '최고 성능'에만 치중해 실제 배포 환경의 취약성을 놓치고 있음을 보여, 향후 평가 프로토콜 설계 방향을 제시한다.
언급 프로젝트
본문 미리보기
arXiv:2610.20845v1 Announce Type: new Abstract: Skill-policy co-evolution, in which an agent's policy model and its skill bank improve each other during training, is a promising paradigm for self-improving agents. Current evaluations score the co-evolved policy on the final bank it trained with (the delivered bank). After deployment, however, skills may be rewritten, added or removed more frequently than the policy model is retrained, leaving the policy to operate on a drifted skill bank that n
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:40AI 초안