검색증강생성(RAG) 시스템이 의존하는 벡터 인덱스는 삭제된 항목을 검색 그래프 안에 그대로 남겨둘 수 있다. 기존 삭제 인터페이스는 삭제된 식별자가 결과에 나타나지 않게는 하지만, 그래프 순회 과정에서 삭제된 임베딩과의 거리 계산은 여전히 수행한다. 이 논문은 이를 '출력 안전성'과 '순회 안전성'으로 구분하고, 그래프 기반 근사 최근접 이웃 검색에서 순회 안전 삭제를 감사·적용하는 프레임워크 TSD-AUDIT을 제안한다. Faiss IndexHNSWFlat에서 삭제율 70%일 때 감사한 100개 쿼리 전부에서 삭제된 벡터가 여전히 채점되는 것을 확인했으며, hnswlib에서도 같은 패턴이 코드 검사로 드러났다. TSD-AUDIT은 '생존 후 채점' 불변식을 강제해, 영역 표적 삭제 상황에서 Recall@10을 기존 필터링 대비 4.3~42.2%p 향상시켰다.
- •RAG 벡터 인덱스의 '출력 안전성'과 '순회 안전성'을 구분해 삭제 안전성 문제를 재정의
- •Faiss·hnswlib 모두에서 삭제된 벡터가 순회 중 여전히 채점되는 취약점 실증
- •'생존 후 채점' 불변식을 강제하는 감사·적용 프레임워크 TSD-AUDIT 제안
- •영역 표적 삭제 시 Recall@10을 기존 대비 최대 42.2%p 개선
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Beyond Private Training: The New Landscape of AI Privacy
- 1.RAG 벡터 인덱스에서 삭제 항목이 결과에 안 보여도 탐색 중엔 여전히 스코어링됨을 규명, 'TSD-AUDIT' 제안
- 2.Faiss IndexHNSWFlat, 70% 삭제 시 감사한 100개 쿼리 전부에서 삭제된 벡터가 스코어링됨을 확인
- 3.hnswlib mark_deleted 경로도 동일한 '스코어링 후 삭제' 패턴 보유, 업계 공통 문제로 지적
- 4.TSD-AUDIT는 생존 벡터만 스코어링하도록 강제, 삭제율 0.5~0.9 구간서 Recall@10 4.3~42.2%p 개선
왜 중요한가?
GDPR 등 '삭제 요청' 준수를 위해 결과 필터링만 하던 기존 벡터 삭제 방식이 실제로는 삭제된 데이터를 여전히 연산에 노출시킬 수 있음을 보여, RAG 시스템의 프라이버시 감사 기준을 재점검하게 한다.
본문 미리보기
arXiv:2609.19456v1 Announce Type: new Abstract: Retrieval-augmented systems increasingly rely on vector indexes that may retain deleted items in their search graph. Existing deletion interfaces can prevent deleted identifiers from appearing in returned results while still computing distances to their embeddings during graph traversal. We formalize this distinction as output safety versus traversal safety, and introduce TSD-AUDIT, a framework for auditing and enforcing traversal-safe deletion in
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안

![[10월12일] AI가 암을 치료해도 원리를 알아야 할까…수학자 타오의 질문에 쏟아진 반론](https://cdn.aitimes.com/news/photo/202610/216150_220160_1157.jpg)

