LLM의 훈련-배포 분리로 인해 배포 후 학습이 중단되는 한계를 해결하는 CASCADE 프레임워크를 제안합니다. 배포 시간 학습(DTL)을 모델 파라미터 수정 없이 에이전트가 배포 중 경험으로부터 개선될 수 있는 LLM 생애주기 3단계로 공식화합니다. CASCADE는 명시적이고 진화하는 에피소드 메모리를 갖추고, 경험 재활용을 문맥 밴딧 문제로 공식화하여 탐색-활용 균형을 원칙에 입각해 처리합니다. 의료 진단, 법률 분석, 코드 생성 등 16개 다양한 과제에서 제로샷 대비 20.9% 성공률 향상을 달성했습니다.
- •CASCADE는 모델 파라미터 수정 없이 에이전트가 배포 중 경험으로부터 개선할 수 있는 배포 시간 학습(DTL)을 LLM 생애켜이클의 3단계로 공식화한다.
- •경험 재활용을 문맥 밴딧 문제로 공식화하여 노 리그렛 보장을 수립하고 에이전트가 과제 관련 사례를 축적·선택·정제하여 실행 가능한 지식으로 전환한다.
- •의료 진단, 법률 분석, 코드 생성, 웹 검색, 도구 사용, 체화 인터랙션 등 16개 다양한 과제에서 제로샷 프롬프팅 대비 거시 평균 성공률 20.9% 향상을 달성했다.
- •그레디언트 기반 및 메모리 기반 반다선기보다 일관되게 우수하여 배포를 적응형 학습 프로세스로 재해석하는 기반을 제시한다.
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
CASCADE: Case-Based Continual Adaptation for Large Language Models During Deployment
- 1.배포 시점에 파라미터 수정 없이 경험에서 학습하는 배포 시간 학습(DTL) 프레임워크 CASCADE 제안
- 2.에피소딕 메모리를 맹락적 밴딧 문제로 형식화해 탐색-활용 트레이드오프와 무후회 보장 달성
- 3.16개 다양한 태스크에서 제로샷 대비 성공률 20.9% 향상, 그래디언트·메모리 기준선 지속 초과
- 4.의료 진단, 법률 분석, 코드 생성, 웹 검색 등 다양한 도메인에서 성능 개선 확인
왜 중요한가?
훈련 후 모델 파라미터를 변경하지 않고도 지속적으로 성능을 향상시킬 수 있는 실용적 접근법으로, 실제 프로덕션 LLM 배포에 즉시 적용 가능한 높은 실용성을 지닌다.
언급 프로젝트
본문 미리보기
arXiv:2605.06702v1 Announce Type: new Abstract: Large language models (LLMs) have become a central foundation of modern artificial intelligence, yet their lifecycle remains constrained by a rigid separation between training and deployment, after which learning effectively ceases. This limitation contrasts with natural intelligence, which continually adapts through interaction with its environment. In this paper, we formalise deployment-time learning (DTL) as the third stage in the LLM lifecycle
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 13:10AI 초안

