도구를 사용하는 LLM 에이전트가 여러 차례 대화(멀티턴)로 위험한 목표를 잘게 쪼개 숨기는 '분산 위험' 공격에 취약하다는 문제를 다룬다. 연구진은 각 행동을 생성하기 전 지금까지의 대화 궤적을 압축한 안전 표현을 모델에 주입하는 생성 시점 방어 기법 ReDiR을 제안했다. 이 표현은 안전한 과제 수행 경로의 감독 신호를 활용해, 별도의 행동 단위 안전 모듈 없이도 멀티턴 전반의 보안 증거를 통합한다. 세 모델군과 8개 미학습 도구 영역에 걸친 두 개 에이전트 안전 벤치마크에서 ReDiR은 공격 성공률을 8% 미만으로 낮추면서도 정상 작업 성능과 낮은 연산 오버헤드를 유지했다. 별도 온라인 추론 모듈 없이 생성 과정 자체에 안전성을 내재화할 수 있음을 보여준다.

• •멀티턴 분해 공격: 개별 요청은 무해해 보이지만 누적되면 위험한 목표가 드러남
• •ReDiR은 행동 생성 전 대화 궤적을 압축한 '잠재 안전 표현'을 고정된 기반 모델에 주입
• •동일 모델 내 교차 관점 지도학습으로 안전 증거를 학습(별도 모듈 불필요)
• •3개 모델군, 8개 미학습 도구 영역에서 공격 성공률 8% 미만으로 감소
• •미학습 도구 영역에도 전이되며 정상 작업 성능과 연산 효율을 유지