접근 제어의 근간인 최소 권한(least privilege) 원칙이 에이전틱 AI 시스템에는 불충분하다고 주장하며, 그 일반화로 '최소 자율성(least autonomy)' 이론을 제안한 논문이다. AI 에이전트는 권한을 단순히 보유하는 것이 아니라 워크플로와 시스템 경계를 넘어 권한을 조합·승인·증폭할 수 있다는 점이 핵심 문제의식이다. 이론은 세 축으로 구성된다: 초거리(ultrametric) 트리와 격자값 기밀성·무결성·제어맥락 레이블을 결합해 행동 간 구조적 분리를 측정하는 조합적 폭발 반경 d(a,b), 공유 자원 쓰기-읽기 또는 에이전트 간 통신 조건과 정책 임계값 θ 이상의 영향 잠재력으로 정의되는 방향성 에이전트 영향 그래프 G(θ), 그리고 그래프 도달 가능성 위에서 권한 조합·의사결정 조작·도메인 간 능력 조합을 탐지하는 공모(collusion) 술어다. 에이전트 보안 거버넌스에 형식적 기반을 제공하려는 시도다.
- •에이전트는 권한을 조합·승인·증폭할 수 있어 최소 권한 원칙만으로는 불충분 — '최소 자율성'으로 일반화
- •초거리 트리 + 격자값 기밀성·무결성·제어맥락 레이블로 행동 간 구조적 분리를 측정하는 폭발 반경 d(a,b) 정의
- •정책 임계값 θ 기반 방향성 에이전트 영향 그래프 G(θ)와 카탈로그-반경 프로파일로 감사·보정 지원
- •그래프 도달 가능성 기반 공모 술어로 권한 조합·의사결정 조작·도메인 간 능력 조합 탐지
A Theory of Least Autonomy in AI
본문 미리보기
arXiv:2607.09744v1 Announce Type: new Abstract: Least privilege, the principle that an identity should hold only the permissions strictly required for its task, has been a foundational primitive of access control for decades. We argue that this principle is insufficient for agentic AI systems, which do not merely hold permissions but can combine, approve, and amplify them across workflows and system boundaries. We propose least autonomy as an appropriate generalization and develop a formal th
전체 내용이 궁금하다면?
원문을 직접 읽어보세요