Mitigating Capability Degradation in LLM Self-Improvement via Representation Geometry Regularization | AIChainDay

0단 자동

AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.

규칙 판: 규칙 판 도입 이전 기사입니다.
남기는 것: 규칙 판 · 모델 · 시각
판 기록: 아직 없습니다.

AI2026년 10월 12일AI 점수: 90%

Mitigating Capability Degradation in LLM Self-Improvement via Representation Geometry Regularization

출처:arXiv cs.AI

AI 인사이트

개발자

1.온폴리시 자기증류(OPSD)로 LLM 자기개선 시 기존에 맞히던 문제 다시 틀리는 '능력 퇴화' 규명
2.퇴화는 은닉표현의 군집 내 응집도 저하·군집 간 분리도 약화와 동시에 발생함을 분석
3.표현 기하구조 보존하는 'Representation Geometry Regularization(RGR)' 제안
4.기존 OPSD 핵심 최적화 변경 없이 통합 가능, 여러 벤치마크서 퇴화 완화하며 성능개선 유지

왜 중요한가?

전체 지표는 계속 좋아지는 것처럼 보여도 내부적으로는 이미 습득한 능력이 조용히 손상될 수 있다는 자기개선 학습의 숨은 위험을 드러내고, 이를 표현 기하학 관점에서 진단·교정하는 구체적 처방을 제시한다.

언급 프로젝트

RGR

본문 미리보기

arXiv:2610.12855v1 Announce Type: new Abstract: On-Policy Self-distillation is a self-improvement paradigm that enables large language models (LLMs) to improve their capabilities by leveraging the same model as both teacher and student under different conditioning contexts. However, we find that OPSD methods can progressively degrade previously acquired capabilities: queries that are correctly responded at earlier training stages may become incorrectly responded as optimization proceeds, even t

전체 내용이 궁금하다면?

원문을 직접 읽어보세요

원문 보기

#LLM자기개선#표현기하정규화