LLM 에이전트의 런타임 맥락(사용자 프롬프트, 실행 경로, 도구 목록 등)을 유출시키는 공격은 사용자에게 심각한 보안·프라이버시 위험을 초래한다. 이런 공격은 악성 도구를 통해 이뤄지며 일반적으로 에이전트가 악성 도구를 작업 실행에 선택하고, 런타임 맥락을 도구의 입력 인자로 전달하며, 도구 구현이 이 입력을 공격자가 통제하는 엔드포인트로 전송하는 세 조건이 필요하다. 기존 연구는 주로 첫 번째와 세 번째 조건에 집중했고 두 번째 조건은 거의 다루지 않았는데, 연구진은 이 공백을 메우기 위해 에이전트가 도구를 선택하고 맥락을 입력 인자로 노출하도록 유도하는 악성 도구 공격 'ContextLeak'을 개발했다. 강화학습으로 공격용 LLM을 미세조정해 악성 도구의 이름과 설명을 자동 생성하도록 했으며, 맥락 유출 목표에 맞춘 새로운 보상 함수를 설계해 효과적인 미세조정을 가능하게 했다. 폭넓은 평가 결과 그림자 사용자의 맥락이 피해자 맥락과 크게 달라도 공격이 높은 효과를 유지했으며, 기존 악성 도구 공격을 크게 능가했다.

• •LLM 에이전트 런타임 맥락 유출 공격의 핵심 조건인 '맥락의 입력 인자 노출'을 최초로 집중 연구
• •강화학습으로 미세조정한 공격 LLM이 악성 도구 이름·설명을 자동 생성하는 ContextLeak 개발
• •맥락 유출 목표에 특화된 새로운 보상 함수 설계가 핵심 기술 기여
• •그림자 사용자와 피해자 맥락이 크게 달라도 공격 효과 유지됨을 실험으로 입증
• •기존 악성 도구 공격 대비 유의미하게 높은 성능 달성