Visual Memory Attacks Can Persist Through The KV Cache

출처:arXiv cs.CR (암호학·보안)

AI 인사이트

개발자

1.적대적 이미지가 컨텍스트에서 사라져도 KV캐시를 통해 공격 효과가 지속됨을 실증
2.P-VMI: 어텐션에서 마스킹된 후에도 백도어 행동을 유지하도록 이미지를 최적화
3.Qwen3-VL-8B-Instruct에서 최강 설정 시 목표 성공률 약 90% 달성
4.같은 모델이 생성한 요약으로 압축(compaction)해도 공격이 생존함을 확인

왜 중요한가?

위험한 입력을 컨텍스트에서 지우면 안전하다는 통상적 방어 가정이 KV캐시 수준에서는 성립하지 않음을 보여, 장기 대화·메모리 압축을 쓰는 멀티모달 에이전트의 보안 설계에 근본적 재검토가 필요함을 시사한다.

언급 프로젝트

Qwen3-VL

본문 미리보기

arXiv:2610.09027v1 Announce Type: new Abstract: Modern language model systems operate autonomously over increasingly long contexts containing untrusted text and images. Can an adversarial input continue to steer a model even after that input is removed from its context? We show that attacks can be trained to persist through the key/value (KV) cache of subsequent tokens, allowing adversarial influence to outlive direct access to its source.We consider the Visual Memory Injection (VMI; Schlarmann

전체 내용이 궁금하다면?

원문을 직접 읽어보세요

원문 보기

#LLM보안#KV캐시#시각기억공격#지속공격

이 글이 만들어진 과정

11:24AI 초안

판 이력 전체 보기 →

3시간 전

AudioShake Launches The Refinery to Turn Overlapping Conversations Into AI Training Data

People interrupt. They laugh over someone else’s last sentence, offer a quick agreement before a speaker has finished, and keep talking while music or traffic fills the background. For a voice AI developer, that everyday messiness creates a difficult data problem: a recording can contain exactly the

미디어Unite.AI

원문

Visual Memory Attacks Can Persist Through The KV Cache

본문 미리보기

이 글이 만들어진 과정

관련 글

AudioShake Launches The Refinery to Turn Overlapping Conversations Into AI Training Data

Lava Finds Thousands of Exposed GPU Servers and a High-Severity NVIDIA Monitoring Flaw

Roundtables: A Conversation With the Creator of AI-Designed Viruses

ttok 0.4