연속적으로 작동하는 LLM 에이전트의 장기 기억이 단순히 정보를 더 많이 저장하는 문제가 아니라, 새로운 경험이 기존 기억을 강화·수정·간섭하는 복잡한 진화 과정임을 규명하기 위해 연구진이 '통제된 기억 간섭(CMI)' 진단·데이터 생성 프레임워크를 제안했다. 기존 기억 시스템은 주로 기억 구축과 관련성 기반 검색에 집중해왔지만, 여러 기억이 동시에 관련성을 가지면서도 상태·시간적 유효성·권위 면에서 서로 다를 수 있다는 문제를 충분히 다루지 못했다. 실험 결과 단순한 기억 축적은 영향이 제한적인 반면, 관계 특이적 간섭은 안정성 이득 없이 업데이트 가능성을 크게 억제했으며, 어휘 기반 검색과 밀집 검색이 서로 다른 간섭 경로를 보였고, 오염은 최신성보다 업데이트 권위 신호에 더 민감했다. CMI는 간섭을 고려한 기억 학습을 위한 표적 예시도 제공해, 신뢰할 수 있는 연속 에이전트 기억 시스템 구축에 기여한다.
- •새 경험이 기존 기억을 강화·수정·간섭하는 과정을 진단하는 'CMI' 프레임워크를 새로 제안
- •양성 기억 축적은 영향이 제한적이나 관계 특이적 간섭은 업데이트 가능성을 크게 억제
- •어휘 기반 검색과 밀집 검색이 서로 다른 간섭 경로를 보임
- •기억 오염은 최신성보다 업데이트 권위 신호에 더 민감하게 반응
- •간섭 인식 기억 학습용 표적 예시를 제공해 원본 과제 성능은 유지하면서 개선 가능
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Controlled Memory Interference in Continual LLM Agents
본문 미리보기
arXiv:2608.07622v1 Announce Type: new Abstract: Long-term memory enables AI agents to maintain continuity across sessions, personalize behavior, and evolve through accumulated experience. Yet memory evolution is not simply a process of storing more information: new experiences may reinforce, revise, or interfere with existing memory states. Existing systems mainly emphasize memory construction and relevance-based retrieval, but several memories may remain simultaneously relevant while differing
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:39AI 초안

