LLM 기반 에이전트는 셸 명령 실행, 코드 수정, 의존성 설치, 원격 서비스 상호작용까지 포함하는 장기·종단 간 워크플로를 점점 더 자율적으로 수행하면서 외부 콘텐츠에 숨겨진 적대적 지시가 정당한 작업 지시로 해석되는 간접 프롬프트 주입(IPI)에 대한 노출도 커지고 있다. 기존 평가는 흔히 고립된 악성 문자열이나 단일 단계 도구 호출, 좁게 설정된 에이전트 구성에만 초점을 맞춘다. 연구팀은 장기 에이전트 워크플로 전 생애주기에서 IPI를 평가하는 종단 간 벤치마크 INFUSE를 제시했는데, 40개 현실적 과제와 5개 위협 범주에 걸친 56개 공격 시나리오 체계를 포함한다. GPT, Claude, Gemini, Llama, Gemma, Qwen 계열 19개 모델을 평가해 4만1824개의 적대적 궤적을 생성했으며, 평균 공격 성공률은 LLM 기반 평가 기준 19.6%였고 모델별로는 3.2%에서 41.9%까지 편차가 컸다. 기존 가드 모델은 보호 효과가 제한적이었지만 프롬프트 수준의 지시 강화는 평균 공격 성공률을 58.2%에서 14.3%로 낮췄다.

• •장기 에이전트 워크플로 전 생애주기의 간접 프롬프트 주입(IPI)을 평가하는 종단 간 벤치마크 INFUSE 제안
• •40개 현실적 과제, 5개 위협범주 56개 공격 시나리오, 실제 상호작용 표면을 통한 공격 주입
• •19개 LLM 평가로 4.18만 개 적대적 궤적 생성, 평균 공격 성공률 19.6%(모델별 3.2~41.9%)
• •기존 가드 모델은 보호 효과 제한적, 프롬프트 수준 지시 강화는 공격 성공률을 58.2%→14.3%로 감소