간접 프롬프트 인젝션(IPI)은 도구를 사용하는 LLM 에이전트가 읽는 콘텐츠에 악성 지시를 심어 유해한 도구 호출을 유도하는 공격이다. 연구진은 값이 사용자, 사용자가 명시적으로 지정한 출처, 또는 사용자 자신의 권위 있는 기록으로 위조 불가능하게 추적될 때만 상태 변경 도구에 도달할 수 있다는 신뢰 구조 개념에 기반한 방어 기법 'ROPE(Routed Origin Policy Enforcement)'를 제시했다. ROPE는 감사 가능한 민감 도구 매개변수 집합에 대한 결정론적 출처 검사로 집행되며, 언어모델에 대한 의존은 공격자의 손이 닿지 않는 신뢰할 수 있는 사용자 요청에만 한정된다. 4개 에이전트 모델을 대상으로 한 오픈엔드 에이전트 스위트 평가에서 ROPE는 공격 성공률을 1.6~2.6%로 억제하면서도 방어 없는 상태 대비 82~100%의 정상 효용을 유지해, 기존 시스템 수준 방어보다 효용 면에서 크게 앞서면서 동등하거나 더 나은 보안성을 달성했다.

• •간접 프롬프트 인젝션 방어를 위한 구조적 신뢰 기반 기법 ROPE 제안
• •값이 사용자·지정 출처·사용자 기록으로 위조 불가능하게 추적될 때만 도구 실행 허용
• •민감 도구 매개변수에 대한 결정론적 출처 검사로 집행, LLM 의존은 사용자 요청에만 한정
• •공격자 콘텐츠 유래 값의 도달 차단과 인젝션 재구성 무효화를 증명가능하게 보장
• •4개 모델 평가에서 공격성공률 1.6~2.6%, 정상효용 82~100% 유지로 기존 방어 상회