연구진이 기업용 AI 에이전트들이 공유하는 메모리 저장소에서 발생하는 데이터 유출과 지표 충돌 위험을 막기 위한 새로운 메모리 스키마 '분석 메모리 유닛(AMU)'을 제안했다. 기존 에이전트 메모리 시스템(MemGPT, Zep, A-MEM 등)은 콘텐츠·소유권·역할로만 접근을 제한해, 금지된 열(column)이 포함된 캐시된 통찰이 유출될 수 있는 맹점이 있었다. AMU는 모든 캐시 결과에 전체 계보(lineage) 그래프를 첨부하고, 요청자가 해당 결과에 쓰인 모든 열에 대한 권한이 있을 때만 결과를 제공하는 검색 정책을 적용한다. 6가지 실험에서 AMU는 기존 콘텐츠 기반 메모리가 겪는 18.8~25.5%의 부서 간 유출을 제거하면서도 메모리 재사용률의 81.5~82.6%를 유지했으며, LLM이 생성한 SQL을 활용한 실제 에이전트 시연에서는 9회 왕복 동안 유출 0건을 기록했다.
- •기업 AI 에이전트 공유 메모리의 데이터 유출·지표 충돌 방지하는 스키마 '분석 메모리 유닛(AMU)' 제안
- •기존 시스템(MemGPT·Zep·A-MEM)은 콘텐츠·소유권·역할만 검사해 파생 결과 유출에 취약
- •모든 캐시 결과에 계보 그래프를 첨부해 요청자의 열 단위 권한을 모두 확인 후에만 제공
- •6가지 실험서 기존 방식의 18.8~25.5% 부서간 유출 제거, 메모리 재사용률 81.5~82.6% 유지
- •LLM 생성 SQL 활용 실제 에이전트 시연서 9회 왕복 중 유출 0건, EU AI법 준수 지원 가능성 제시
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Lineage-Aware Memory Governance: A Derivation-Gated Framework for Privacy-Preserving Column-Level Access Control in Enterprise AI Agents
- 1.여러 부서가 공유하는 AI 에이전트 메모리의 간접 데이터유출 문제 해결용 'Analytical Memory Unit(AMU)' 제안
- 2.MemGPT·Zep·A-MEM 등 기존 시스템은 내용·소유권·역할만 검사해 유도결과 경로는 놓친다는 점을 지적
- 3.모든 캐시 결과에 전체 계보(lineage) 그래프를 붙여 접근한 모든 열에 권한 있을 때만 캐시 적중을 허용, O(n) 보장
- 4.6개 실험에서 부서간 유출 18.8~25.5%를 제거하면서도 메모리 재사용 81.5~82.6% 유지, 오버헤드 13.8마이크로초
왜 중요한가?
LLM 기반 엔터프라이즈 에이전트가 메모리를 공유할 때 콘텐츠 기반 접근제어만으로는 못 막는 '계산을 통한 민감정보 유출'을 계보 추적으로 차단하는 실용적 거버넌스 계층을 제시해, EU AI Act 등 규제 준수에도 활용될 수 있다.
본문 미리보기
arXiv:2610.07258v1 Announce Type: new Abstract: Enterprise AI agents that share a memory store face two unaddressed risks: sensitive data can leak through legitimately computed results the requester could not derive, and departments can silently compute a same-named key performance indicator (KPI) through conflicting logic. Existing agent-memory systems (e.g., MemGPT, Zep, A-MEM) gate retrieval by content, ownership, and role, not derivation, missing a cached insight that embeds a forbidden col
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안
