장기 실행되는 LLM 에이전트는 압축 요약, 평문 메모리, 대기 중인 도구 계획, KV 캐시 등 상태를 축적하는데, 기존의 '망각' 연산은 평문 메모리 기록만 삭제할 뿐 해당 정보에서 파생된 다른 산출물은 그대로 남긴다. 이 논문은 망각 요청 후 에이전트가 마치 대상 정보를 관측한 적 없는 것처럼 행동해야 한다는 '실행 상태 언러닝'을 정식화하고, 런타임을 결정론적 전이 시스템으로 모델링해 대상 이전 궤적은 반사실 세계와 공짜로 공유되지만 대상 이후 부분은 토큰 단위 귀속 없이는 필연적으로 오염되며 정확한 언러닝에는 최소 T-τ+1번의 재계산 전이가 필요함을 증명했다. 프로비넌스 그래프로 주입 지점을 찾아 KV 캐시를 자르는 체크포인트 복원과 정제된 재실행으로 반사실 접미부를 재생성하는 '프로비넌스 유도 선택적 재실행' 기법이 이 하한을 달성했다. 3개 에이전트 스위트, 9개 베이스라인, 3개 모델 계열에 걸친 감사에서 단순 메모리 삭제는 누출을 그대로 남기고, 지시 기반 망각은 유도 질의에 무너지며(Leak@probes=1.00), 출처 삭제도 80%의 에피소드에서 철회된 선호를 여전히 반영했지만, 선택적 재실행은 최대 9배 적은 재계산 토큰으로 완전 초기화와 구별되지 않는 결과를 냈다.
- •LLM 에이전트의 '망각'이 파생 산출물(압축 요약, KV 캐시 등)을 남기는 문제를 정식화해 '실행 상태 언러닝' 개념 제시
- •정확한 언러닝에는 최소 T-τ+1번의 재계산 전이가 필요함을 이론적으로 증명
- •프로비넌스 그래프 기반 체크포인트 복원과 정제된 재실행으로 이 하한을 달성하는 기법 제안
- •단순 삭제·지시 기반 망각은 유도 질의에 취약(Leak@probes=1.00)했으나 선택적 재실행은 최대 9배 적은 토큰으로 완전 초기화와 동등한 결과 달성
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Forgetting Without Restarting: Execution-State Unlearning for Stateful LLM Agents
- 1.장기 실행 LLM 에이전트를 위한 '실행상태 언러닝' 개념을 정식화 — 삭제 요청 후 해당 정보를 본 적 없는것처럼 동작해야 함
- 2.단순 평문 메모리 삭제는 파생 흔적을 그대로 남겨, 유도 질의 시 유출률(Leak@probes)이 1.00에 달함을 실증
- 3.소스 재편집 방식도 철회된 선호가 80% 사례에서 여전히 작동함을 확인
- 4.출처그래프 기반 선택적 재실행으로 완전리셋과 동등한 망각을 최대 9배 적은 재계산 토큰으로 달성
왜 중요한가?
LLM 에이전트가 대화 기록뿐 아니라 압축 메모리·KV 캐시 등 여러 상태에 정보를 흩뿌려 저장한다는 점에서, 단순 삭제로는 규제상 '잊혀질 권리'를 실질적으로 충족하지 못함을 보여주는 중요한 발견이다.
상태를 유지하는(stateful) LLM 에이전트가 특정 정보를 재시작 없이 잊을 수 있도록 하는 이 연구는 AI 모델의 데이터 관리와 프라이버시 측면에서 매우 중요합니다. 이는 한국의 개인정보보호법(PIPA) 준수 및 기업의 AI 서비스 운영 효율성 증대에 필수적인 기술로, LLM의 상업적 활용과 신뢰성 확보에 큰 영향을 미칠 것입니다. 국내 기업들이 AI 서비스를 도입할 때 데이터 보안과 효율성을 동시에 고려해야 하는 현실적인 문제를 해결하는 데 기여할 것으로 기대됩니다.
본문 미리보기
arXiv:2609.04875v1 Announce Type: new Abstract: Long-running LLM agents are stateful: beyond the transcript they accrete compressed summaries, plaintext memory, pending tool plans, and, under every serving API, a KV cache. Yet today's "forget" operations delete a plaintext memory record and stop, leaving every artifact derived from the revoked information intact. We formalize execution-state unlearning: after a forget request, the agent must behave as if it had never observed the target. Modeli
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안
![[AI리더의 서가] Agentic AI 구축 개발의 모든 것](https://cdn.aitimes.com/news/photo/202610/215958_219938_244.jpg)
