AIarXiv cs.CR (암호학·보안)AI 점수 90%
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Can Agents Keep Secrets They Were Never Told? Benchmarking Latent Privacy Risks Across Sessions with MemJoin (원문, 새 창)
AI 인사이트
대상 독자:개발자
- 여러 세션에 걸친 에이전트 장기기억이 개별 세션에는 없던 민감한 관계를 조합해 노출시킬 위험을 재는 벤치마크 MemJoin(합성 288건) 제시
- 전체 이력을 합치면 민감한 관계가 드러나지만 개별 세션 각각은 그 관계를 담지 않도록 설계, 6개 메모리 시스템과 대조군 비교
- 저장 레코드·검색 컨텍스트의 속성값 노출과, 최종 답변이 완전한 관계를 실제로 발화하는지를 분리해서 측정
- 공유 식별자를 제거하면 속성값은 그대로 노출돼도 '완전한 관계 발화' 여부가 달라짐을 확인
왜 중요한가
개인화를 위한 에이전트 장기기억은 각 기록이 개별적으로는 무해해도 여러 세션을 조합하면 사용자가 공개하지 않은 민감한 관계를 추론해낼 수 있는데, 속성값 가시성만 점검하는 기존 평가 방식이 이런 '조합에 의한 노출'을 놓칠 수 있음을 보여준다.
언급 프로젝트
본문 미리보기
arXiv:2610.24359v1 Announce Type: new Abstract: To support sustained interactions and personalized assistance, agents use long-term memory to retain and combine user information across sessions. Reusing such memories can lead an agent to state a sensitive relation while completing an ordinary task that does not require it. The relation to protect and the combination of clues that reveal it may remain hidden at memory write time, when later records and tasks are still unknown. In this paper, we
전체 내용이 궁금하다면?
arXiv cs.CR (암호학·보안)에서 원문을 직접 읽어보세요
공유
- #에이전트메모리
- #프라이버시벤치마크
- #세션간유출
- #AI안전성
이 글이 만들어진 과정
- 11:24AI 초안