LLM 기반 자율 에이전트는 도구 호출·데이터 조작·소프트웨어 설치·에이전트 간 협업이 가능해 인증·접근통제만으로는 통제할 수 없는 새로운 보안·프라이버시·컴플라이언스 문제를 낳는다. 저자들은 허용/금지뿐 아니라 의무(예: 특정 행동 후 CISO 통지), 의무 면제(dispensation), 정책 충돌 해소, 도메인 클래스 계층에 대한 온톨로지 추론까지 다루는 거버넌스 프레임워크 AgenticRei를 제안한다. XACML·Rego·Cedar 같은 기존 엔진이 허용/금지 부분집합만 처리하는 한계를 넘어, Rei 프레임워크 기반 데온틱(의무론) 정책 언어를 OWL로 표현하고 LLM 외부의 고성능 논리 엔진이 런타임에 평가한다. 동일 파이프라인이 도구 호출과 에이전트 간 메시지를 함께 통제하며 A2AS 같은 산업 표준과 자연스럽게 결합한다.
- •에이전트 거버넌스를 허용/금지를 넘어 의무·면제·충돌해소·온톨로지 추론까지 확장한 AgenticRei 제안
- •XACML·Rego·Cedar는 허용/금지 부분집합만 처리해 의무 생명주기·메타정책 충돌해소를 못한다고 지적
- •Rei 기반 데온틱 정책을 OWL로 표현, LLM 외부의 논리 엔진이 런타임 평가
- •도구 호출과 에이전트 간 메시지를 동일 파이프라인으로 통제하고 A2AS 등 표준과 결합
Deontic Policies for Runtime Governance of Agentic AI Systems
본문 미리보기
arXiv:2606.19464v1 Announce Type: new Abstract: Autonomous agentic AI systems driven by Large Language Models (LLMs) introduce a new class of security, privacy, and compliance challenges: an agent that can invoke tools, manipulate data, install software, and coordinate with peer agents across organizational boundaries must be constrained not just by authentication and access control, but by the full structure of enterprise governance. This includes specifying what agents are permitted and prohi
전체 내용이 궁금하다면?
원문을 직접 읽어보세요