ε-MemEvo는 FunSearch, AlphaEvolve 같은 LLM 기반 프로그램 진화 시스템이 과제마다 탐색 경험을 버리는 한계를 넘어, 성공한 알고리즘 전략을 자연어 형태의 '전술 기억'으로 저장해 서로 다른 API와 평가 기준을 가진 과제 간에도 재사용할 수 있게 한다. 의미적으로 맞지 않는 기억이 성능을 해칠 수 있어, 적응형 주입 게이트가 기억을 언제 얼마나 강하게 주입할지 결정한다. GPT-5 백본 기준 8개 최적화 벤치마크 전부에서 AdaEvolve 대비 AUCC 평균 8.7% 향상, 초기 수렴 속도 9.4% 개선을 달성했으며 연산 오버헤드는 1% 미만이다. 단순한 기억 주입은 치명적으로 실패할 수 있지만 적응형 게이팅은 모든 실험에서 안전했다.
- •원시 코드 대신 자연어 '전술 기억'으로 과제 간 지식 이전
- •적응형 주입 게이트로 부정적 전이(negative transfer) 방지
- •GPT-5 기준 8개 벤치마크 전부에서 AUCC 평균 +8.7%, 초기 수렴 +9.4%
- •단순 기억 주입은 치명적 실패 가능, 적응형 게이팅은 전 실험서 안전
- •연산 오버헤드 1% 미만으로 실용적
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
$\varepsilon$-MemEvo: Adaptive Cross-Task Memory Transfer for LLM Program Evolution
- 1.LLM 기반 프로그램 진화 시스템을 위한 작업 간 지식 전이 프레임워크 ε-MemEvo 제안, 코드 대신 자연어 전술 메모리로 경험 전달
- 2.GPT-5 백본 기준 8개 최적화 벤치마크 전부에서 AdaEvolve 대비 AUCC 평균 8.7% 향상, 초기 수렴 속도 9.4% 개선
- 3.적응형 주입 게이트로 관련 없는 메모리의 부정적 전이를 방지, 계산 오버헤드는 1% 미만
- 4.단순 메모리 주입은 치명적으로 실패할 수 있지만 적응형 게이팅은 5개 소거 실험 전반에서 안전성 유지
왜 중요한가?
FunSearch·AlphaEvolve 같은 기존 프로그램 진화 시스템이 매 작업마다 탐색 경험을 버리는 것과 달리, 작업 간 전이 가능한 메모리를 도입해 알고리즘 발견 효율을 높이는 실용적 개선으로 반복적 최적화 작업의 LLM 호출 비용을 줄일 수 있다.
본문 미리보기
arXiv:2608.12522v1 Announce Type: new Abstract: LLM-based program evolution systems such as FunSearch and AlphaEvolve have shown strong ability to discover novel algorithms, but typically optimize each task in isolation, discarding search experience after completion. We introduce $\varepsilon$-MemEvo, a framework for cross-task knowledge transfer in LLM program evolution. $\varepsilon$-MemEvo stores prior experience as task-agnostic tactic memories: compact natural-language summaries of success
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:21AI 초안
