0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Stealthy Poisoning Attacks via Reused KV Cache of Reasoning
출처:arXiv cs.CR (암호학·보안)
AI 인사이트
개발자
- 1.추론 과정의 KV 캐시를 재사용하는 LLM 시스템을 겨냥한 신규 공격 R²ECAP 제시
- 2.채팅 인터페이스와의 상호작용만으로 독성 추론 흔적을 심는 블랙박스 공격, 선행·유지 두 트레이스로 구성
- 3.3개 오픈웨이트 LLM·3개 데이터셋에서 공격성공률 최대 79%, 화이트박스 공격 HijackKV를 9개 중 8개 설정에서 능가
- 4.실제 추론트레이스 검색 시스템에서도 46% 성공률, 프롬프트 주입 탐지기에 걸리는 비율은 단 1%로 은밀함 유지
왜 중요한가?
추론 흔적 재사용이 성능 향상을 위해 점점 보편화되는 가운데, 블랙박스 접근만으로도 KV 캐시를 오염시킬 수 있음을 보여 RAG 유사 구조를 쓰는 모든 LLM 서비스에 새로운 보안 위협을 제기한다.
본문 미리보기
arXiv:2610.22873v1 Announce Type: new Abstract: Modern large language model (LLM) systems reuse key-value (KV) caches to accelerate inference. Recent work has shown that reusing KV caches from reasoning traces can also improve task performance, similar to retrieval-augmented generation (RAG). We demonstrate that this form of KV cache reuse introduces new poisoning vulnerabilities. We propose R$^2$ECAP (Reused Reasoning-Cache Poisoning), a black-box attack that plants poisoned reasoning traces s
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
공유:
#LLM보안#KV캐시#포이즈닝공격#추론시스템
이 글이 만들어진 과정
- 11:24AI 초안