연구진은 이미지·오디오를 읽는 에이전틱 AI 프레임워크를 겨냥한 멀티모달 프롬프트 주입 공격을 측정하는 벤치마크 MMPIBench를 공개했다. OCR 텍스트, 오버레이, EXIF 메타데이터, QR코드, 가짜 인터페이스 등 6가지 시각적 매개체로 공격을 전달해 지각-계획-도구 호출 단계까지 얼마나 침투하는지 720회 실행으로 측정했다. 공격 시도는 12.8%였지만 실제 성공은 약 1%에 그쳤고, 대부분 계획 단계에서 모델이 주입된 지시를 인식해 거부하며 차단됐다. 반면 오디오 채널로 확장했을 때는 신호가 도달한 경우 공격 성공률이 최대 75%까지 치솟아, 시각 외 지각 채널의 방어가 훨씬 취약함을 보여줬다.

• •6가지 시각적 매개체로 멀티모달 프롬프트 주입 공격을 측정하는 MMPIBench 공개
• •720회 실험에서 공격 시도는 12.8%지만 실제 성공은 약 1%에 그침
• •모델이 계획 단계에서 주입 지시를 인식해 거부하는 것이 방어의 핵심, 프레임워크보다 모델 자체가 중요
• •오디오 채널로 확장하면 신호 도달 시 공격 성공률이 49~75%로 급등, 방어 공백 존재