AI2026년 7월 11일AI 점수: 98%
Feedback Manipulation Regularization: Enabling Offline Agent Alignment for Imitation Learning
출처:arXiv cs.AI
✨ AI 인사이트
🧑💻 개발자
- 1.평가 피드백을 교정 신호로 쓰는 FMR 제안, 모방학습 정렬을 단일 단계 오프라인 학습으로 개선
- 2.Safety Gymnasium을 정렬 평가 테스트베드로 개조, 다양한 모방학습 알고리즘에서 오정렬 최대 98% 감소
- 3.정렬된 시연이 희소하고 노이즈가 많은 저데이터 환경에서도 견고성 유지
💡
왜 중요한가?
인간 시연과 평가 피드백을 다단계 파이프라인 대신 단일 오프라인 학습에서 결합하는 알고리즘 불가지론적 방법으로, 언어 생성이 아닌 순차적 의사결정 에이전트의 정렬 비용을 낮출 수 있는 방향을 제시했다.
본문 미리보기
arXiv:2607.07859v1 Announce Type: new Abstract: Reinforcement learning (RL) research has increasingly shifted focus towards alignment, ensuring agents learn behaviors adhering to human values. While human demonstrations and feedback have proven crucial for alignment, existing approaches predominantly combine these signals using multi-stage pipelines designed for the contextual bandit framing of language generation. Yet little work explores how these complementary inputs can serve as a richer, i
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
공유:
#강화 학습#AI 정렬#모방 학습#인간 피드백#오프라인 학습