MPIDetector: Detecting Multi-modal Prompt Injection via LLM-based Reasoning↗ (원문, 새 창)

연구팀은 텍스트와 이미지에 걸쳐 악성 지시를 숨기는 다중모달 프롬프트 인젝션(PI)을 LLM의 추론 능력으로 탐지하는 프레임워크 MPIDetector를 제안했다. 별도의 미세조정 없이 프롬프트 템플릿과 대표 공격 예시를 활용한 퓨샷 인컨텍스트 학습으로 입력의 의미적 의도를 모달리티 전반에서 검토한다. 텍스트 8종·시각 7종의 악성 카테고리와 양성 데이터셋을 포함한 평가 벤치마크를 구축해 Gemini-2.0-Flash, Qwen3-VL-32B-Instruct, Doubao-seed-1.6-flash 등 다양한 LLM에서 검증한 결과, 텍스트 작업에서 최대 90.91% 정확도와 100% 재현율을, 시각 작업에서는 최대 99.28% 정확도와 모든 모델에서 100% 정밀도를 달성했다. 고도로 난독화된 500건의 웹 에이전트 인젝션(WebInject) 공격에 대해서도 최대 99.80%의 탐지율을 보여, 패턴 매칭 기반 기존 방식보다 강력한 크로스모달 방어 수단임을 입증했다.

• 문니트닝 없이 풷샷 인컨텍스트 학습으로 LLM 추론을 활용해 다중모달 프롬프트 인젝션을 탐지
• 탐스트 작업에서 최대 90.91% 정확도·100% 재현륩, 시각 작업에서 최대 99.28% 정확도 달성
• 500건의 고도 난뎅화 웹 에이전트 인젝션 공격에서도 최대 99.80% 탐지지율 기립
• 기존 시글니처·퓨펝스싱 기반 방식보다 강력한 크로스모달 방어 수단으로 입증