0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
SAFE-Mem: Secure Agentic Memory with Fine-Grained Authority and Governance-Aware Retrieval
출처:arXiv cs.CR (암호학·보안)
AI 인사이트
개발자
- 1.LLM 에이전트의 영속 메모리에 신뢰할 수 없는 정보가 권한으로 둔갑하는 위험을 막는 세밀한 거버넌스 프레임워크 SAFE-Mem 제안
- 2.각 주장에 종류·권한·범위 3가지 거버넌스 라벨을 부여해 출처와 허용 용도를 명시
- 3.거버넌스 인지 검색으로 질의 요구와 권한을 매칭해 비인가 영향은 차단하고 정당한 정보는 유지
- 4.4개 LLM·MPBench·LoCoMo 평가에서 공격성공률 최저(최고 대비 77%↓), 정확도 최대 15%p 향상
왜 중요한가?
에이전트 메모리를 악용한 프롬프트 주입·권한 승격 공격이 늘어나는 가운데, 메모리 유용성을 희생하지 않으면서 출처 기반 접근제어를 실현한 실용적 방어 체계를 제시한다.
언급 프로젝트
본문 미리보기
arXiv:2610.22959v1 Announce Type: new Abstract: Large language model (LLM) agents increasingly rely on persistent memory to support long-term reasoning and personalized interactions. However, information collected from external sources can introduce security risks when untrusted claims (i.e., atomic statements) are later treated as authorized preferences, policies, or permissions. Existing defenses typically rely on content-based filtering or coarse-grained provenance tracking, which either fai
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
공유:
#AI에이전트#메모리보안#거버넌스#프롬프트인젝션
이 글이 만들어진 과정
- 11:24AI 초안