Retrieved But Not Reliable: A Survey on Attacks, and Defenses in Retrieval-Augmented Generation | AIChainDay

한국어 요약by Claude · 2026. 8. 29.

검색증강생성(RAG)이 LLM의 사실성을 높이고 환각을 줄이는 대신 코퍼스 오염, 백도어 공격, 프라이버시 유출, 공정성 침해 같은 새로운 강건성·보안 위험을 함께 들여온다는 점을 정리한 서베이 논문이다. 저자들은 코퍼스·검색기·생성기 각 단계에 걸친 위협 모델을 공식화하고, 공격 목표를 정확성·프라이버시·공정성 세 축으로 분류했다. 방어 기법도 검색·재순위화·생성·역추적 단계별로 파이프라인 전반을 아우르는 관점에서 정리했으며, 강건성 평가를 위한 벤치마크와 설명가능성 기법도 함께 요약했다. 기존 서베이가 공격자 목표와 단계별 방어를 충분히 다루지 못했다는 문제의식에서 통합적이고 파이프라인 인식적인 개관을 제공한다.

•RAG 파이프라인(코퍼스·검색기·생성기) 전반에 걸친 위협 모델 공식화
•공격을 정확성·프라이버시·공정성 세 가지 목표로 분류
•방어 기법을 검색·재순위화·생성·역추적 단계별로 파이프라인 인식적 관점에서 정리
•코퍼스 오염, 백도어 공격, 프라이버시 유출, 공정성 침해를 주요 위험으로 제시
•강건성 평가용 벤치마크와 설명가능성 방법론도 함께 요약

0단 자동

AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.

규칙 판: 규칙 판 도입 이전 기사입니다.
남기는 것: 규칙 판 · 모델 · 시각
판 기록: 아직 없습니다.

AI2026년 8월 27일AI 점수: 80%

Retrieved But Not Reliable: A Survey on Attacks, and Defenses in Retrieval-Augmented Generation

출처:arXiv cs.CR (암호학·보안)

AI 인사이트

개발자

1.RAG 파이프라인을 코퍼스·리트리버·생성기 3단 위협모델로 정리한 통합 서베이
2.공격을 정확성·프라이버시·공정성 3대 목표로 분류(코퍼스 오염, 백도어, 정보유출, 편향 등)
3.검색·재랭킹·생성·역추적 단계별 방어기법을 파이프라인 관점에서 리뷰
4.강건성 벤치마크와 설명가능성 기법까지 포괄해 평가 방법론 정리

왜 중요한가?

RAG가 사실성 개선을 위해 도입한 외부지식 결합 구조가 오히려 새로운 공격면이 된다는 점을 체계화해, RAG 기반 제품의 보안 설계 시 참고할 표준 지형도를 제공한다.

본문 미리보기

arXiv:2608.24977v2 Announce Type: new Abstract: Retrieval-Augmented Generation (RAG) enhances large language models by grounding outputs in external knowledge, improving factuality and reducing hallucinations. At the same time, the retrieval-augmented pipeline introduces new robustness and security risks, including corpus poisoning, backdoor attacks, privacy leakage, and fairness violations. Despite rapid progress in this area, existing surveys remain limited in their treatment of attacker obje

전체 내용이 궁금하다면?

원문을 직접 읽어보세요

원문 보기