Accept Changes, Reject Attacks: Robust Memory Management for LLM Agents↗ (원문, 새 창)

LLM 에이전트의 장기 메모리 관리자는 변경된 사실을 그대로 유지하는 '오래된 메모리' 문제와 조작된 내용을 저장하는 '메모리 오염' 문제라는 서로 상충하는 두 실패 양상에 직면하는데, 기존 연구는 이를 따로 다뤄 하나의 고정된 저장 규칙으로는 둘 다 해결할 수 없었다. 연구진은 메모리 강건성을 두 문제를 동시에 처리하는 능력으로 정의하고, 선택된 기록이 최신이며 공격에서 자유로운 모든 근거를 포함하는지까지 확인하는 '증거조건부 정확도(ECA)' 지표를 제안했다. 기존 메모리 시스템과 방어 기법들은 튜닝하지 않은 관리자보다 더 강건하지 않았으나, 단일 대화에 변경과 공격을 삽입해 합성한 에피소드로 관리자를 한 차례 미세조정하는 방법으로 세 가지 백본 모두에서 모든 범주 점수를 개선하고 전체 ECA를 두 배 이상 끌어올렸다.

• 메모리 관리자가 겪는 '오래된 메모리'와 '메모리 오염' 문제는 상충해 하나의 고정 규칙으로 해결 불가
• 선택된 기록의 최신성과 공격 여부까지 확인하는 평가지표 '증거조건부 정확도(ECA)' 제안
• 기존 메모리 시스템·방어 기법은 튜닝 안 된 관리자보다 더 강건하지 않음을 확인
• 단일 대화에 변경·공격을 삽입해 합성한 에피소드로 한 차례 미세조정해 ECA를 두 배 이상 향상