외부 자원과 연동된 LLM 에이전트는 신뢰할 수 없는 외부 데이터가 추론 중 행동 지시 명령으로 동적 해석돼 프롬프트 인젝션에 취약해질 수 있다. 기존 방어는 입출력 단의 정적 탐지·격리에 그쳐 추론 도중 발생하는 동적 유도를 잡아내지 못했다. 연구진이 제안한 Attnlocate는 이를 객체 탐지 문제로 재구성해, 어텐션 행렬 내에서 행동 유도 명령이 남기는 고유한 활성화 흔적을 다중 헤드·다중 레이어 집계로 특징화하고 앵커프리 1D U-Net으로 해당 구간을 탐지한 뒤, 탐지된 구간의 제공자 권한에 따라 악성 호출 여부를 동적으로 판정한다. 5개 LLM 계열, 10개 에이전트 구성에서 평균 IoU 0.743, AUROC 0.956, 위양성률 0.067에서 진양성률 0.934를 달성했고 미학습 모델에도 재훈련 없이 전이됐다.

• •프롬프트 인젠션 탐지를 어텐션 행렬 기반 객체 탐지 문제로 재구성
• •5개 LLM 계열·10개 에이전트 구성에서 AUROC 0.956, IoU 0.743 달성
• •위양성률 0.067에서 진양성률 0.934로 고정밀도 탐지
• •미학습 모델에도 재훈련 없이 전이되며 권한 정책 적응 지원