RAG-IDS는 벡터 지식베이스 검색을 이용해 네트워크 트래픽을 분류하는 RAG 기반 침입탐지시스템이 지식 오염과 프롬프트 인젝션에 취약하다는 문제를 해결하는 3계층 다중에이전트 프레임워크다. 소프트 신뢰 점수화, 라벨-임베딩 일관성 검사(LECC), 프롬프트 정화를 결합한 검색경계 방어를 통해 공격 상황에서도 분류 품질을 복원한다. CIC-UNSW-NB15 실험에서 오염률 1%일 때 정상 성능 대비 회복률 R=1.0, 30%일 때도 R=0.57을 기록했으며 정상 상태 성능 저하는 미미했다. 프롬프트 인젝션 공격 시 다중 문서 검색은 라벨 뒤집기 성공률을 0.6~2.4%로 억제해 단일 문서 검색의 35~55%보다 크게 낮췄고, 절제실험에서는 LECC가 견고성의 핵심 요인이며 소프트 신뢰 기반 강등이 하드 필터링보다 우수한 것으로 나타났다.
- •지식 오염·프롬프트 인젝션에 대응하는 3계층 다중에이전트 IDS 프레임워크 RAG-IDS 제안
- •소프트 신뢰점수·LECC·프롬프트 정화를 결합한 검색경계 방어
- •오염률 1%에서 회복률 R=1.0, 30%에서도 R=0.57 유지
- •다중문서 검색으로 라벨 뒤집기 성공률을 0.6~2.4%로 억제(단일문서 대비 35~55%)
- •절제실험에서 LECC가 견고성의 핵심 요인으로 확인
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Defending Retrieval-Augmented Intrusion Detection Against Knowledge Poisoning and Prompt Injection
본문 미리보기
arXiv:2608.08100v1 Announce Type: new Abstract: Retrieval-Augmented Generation (RAG) enables large language models to classify network flows and generate human-readable incident reports by retrieving semantically similar historical traffic from a vector knowledge base. However, the retrieval layer introduces vulnerabilities to knowledge poisoning and prompt-injection attacks. We present RAG-IDS, a three-tier multi-agent intrusion detection framework with a retrieval-boundary defense combining s
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:59AI 초안



