LLM 기반 에이전트의 안전 판단 능력을 향상시키기 위한 ROME과 ARISE를 소개한다. ROME은 알려진 안전하지 않은 궤적을 더 기만적인 평가 인스턴스로 재작성해 300개의 도전 인스턴스를 생성하며, ARISE는 유추 추론을 활용해 재훈련 없이 안전 판단 품질을 향상시킨다. 실험 결과, 기만적 시나리오에서 최신 프론티어 모델도 안전 판단 성능이 크게 저하됨을 확인했으며, 두 도구가 배포 외 분포 변화 하에서 에이전트 안전성을 스트레스 테스트하고 개선하는 실용적 수단을 제공한다.

• •ROME은 100개의 안전하지 않은 궤적에서 맥락적 모호성, 암묵적 위험, 단축키 의사결정을 포함한 300개 도전 인스턴스를 생성한다.
• •숨겨진 위험 케이스는 최신 프론티어 모델에게도 여전히 비자명한 도전 과제로 남아 있다.
• •ARISE는 외부 유추 기반에서 ReAct 스타일 안전 궤적을 검색해 추론 시 구조화된 예시로 주입한다.
• •ARISE는 재훈련 없이 판단 품질을 개선하지만, 독립적인 안전 보장보다는 특정 작업 강건성 향상 도구로 봐야 한다.