이 연구는 에이전틱 AI 시스템의 다단계 취약점을 평가하기 위한 블랙박스 레드팀 프레임워크를 제안한다. 관찰 가능한 행동을 위험 범주에 매핑하는 7개 도메인 분류체계, 도메인당 120개의 적대적 시나리오를 자동 생성하는 SAGE-RT 레드티밍, LLM 판정관을 활용한 사람 검증 평가 세 가지로 구성된다. CrewAI와 AutoGen 두 아키텍처와 4개 기반 모델에 걸친 실증 평가에서 평균 거버넌스 위험 56.25%, 다중 에이전트 구성에서 프라이버시 위험 65%, 에이전트 행동 취약점은 최대 85%에 달하는 것으로 나타났다. 특권 접근 없이도 핵심 아키텍처 취약점을 식별할 수 있어 안전한 에이전트 배포를 위한 확장 가능한 방법을 제시한다.

• •7개 도메인 분류체계와 자동 레드팀링(SAGE-RT)으로 도메인당 120개 적대적 시나리오 생성
• •CrewAI·AutoGen 등 두 아키텍처, 4개 기반 모델에서 평균 거버넌스 위험 56.25% 수준으로 나타남
• •다중 에이전트 구성에서 프라이버시 위험 65%, 행동 취약점은 최대 85%까지 검출
• •특권 접근 없이도 블랙박스 방식으로 핵심 아키텍처 취약점을 탐지하는 확장 가능한 평가법 제시