LLM 에이전트에 대한 프롬프트 인젝션 공격은 에이전트가 검색하는 외부 텍스트 소스에 악성 지시나 콘텐츠를 심어 근본 LLM이 정상 범위 밖의 유해한 행동을 실행하도록 강제한다. 기존 방어책은 알려진 인젝션 공격에는 효과적이지만 공격 변형과 신규 위협이 계속 등장해 실제 에이전트 환경 배포가 어려우며, 런타임 효율성·맥락 정밀도·적응성 간의 고질적인 트레이드오프 삼중고를 겪는다. 연구진은 에이전트에 구애받지 않는 방어 미들웨어 'CAITLYN(Continuous Agents for Injection Threats via Lifelong Yielding Nexus)'을 제안했다. CAITLYN은 규칙 기반 탐지 스크립트(Tier-0)와 최적화된 LLM 기반 정밀 추론(Tier-1)의 2단계 라이브러리로 기존 공격에 즉각 대응하는 시스템 I과, 이상 신호를 모니터링해 새로운 방어를 합성하려 시도하는 시스템 II를 통합한다. 표준 벤치마크에서 CAITLYN은 LLM-as-a-judge 기준선보다 낮은 토큰 오버헤드로 최신 방어와 동등한 탐지 성능을 보였으며, 새로운 인젝션 기법을 포함한 신규 벤치마크에서는 시스템 II가 자율적으로 검증된 방어 역량을 합성해 공격 성공률을 크게 낮췄다.

• •프롬프트 인젝션 방어의 효율성·정밀도·적응성 트레이드오프 삼중고 해결을 목표로 제시
• •에이전트에 구애받지 않는 방어 미들웨어 CAITLYN, 시스템 I·II로 구성
• •시스템 I은 규칙기반(Tier-0)+LLM기반(Tier-1) 2단계로 기존 공격 즉시 방어
• •시스템 II는 이상 신호를 모니터링해 새로운 방어를 자율적으로 합성
• •표준 벤치마크에서 최신 방어와 동등 성능, 신규 인젝션 벤치마크에서 공격성공률 크게 감소