AgentBound는 금융 거래·외부 통신 등 중대한 행동을 수행하는 자율 AI 에이전트에 검증 가능한 행동 거버넌스를 제공하는 런타임 프레임워크다. 기존 인프라가 신원 연합·위임 인가로 접근을 통제하지만 '현재 맥락에서 그 행동을 실제 실행해야 하는지'는 판단하지 못하는 한계를 겨냥한다. 각 제안 행동을 위임 인가, 소유자 서명 행동 헌법(constitution), 사이트 행동 계약이라는 세 독립 권위로 평가하고 이를 보수적으로 합성해 허용·검토·거부를 결정한다. 모든 행동을 위임·정책·의미 산출물에 묶는 암호학적 거버넌스 영수증을 생성해 독립적 재현 검증을 가능케 하며, 장기 실행 에이전트를 위한 상시 위임도 도입했다. 모델 정렬을 대체하지 않고 인가와 실행 사이에 결정론적 거버넌스 계층을 더한다.
- •인가된 행동이라도 현재 맥락에서 실행해야 하는지를 판단하는 런타임 행동 거버넌스 제공
- •위임 인가·소유자 서명 행동 헌법·사이트 행동 계약의 세 독립 권위로 허용·검토·거부 결정
- •모든 행동을 위임·정책·의미 산출물에 묶는 암호학적 거버넌스 영수증으로 독립 재현 검증 가능
- •모델 정렬을 대체하지 않고 보완, AgentBound-Bench 벤치마크 제공
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
AgentBound: Verifiable Behavioral Governance for Autonomous AI Agents
- 1.자율 AI 에이전트의 행동을 실행 전 검증하는 런타임 거버넌스 프레임워크 AgentBound 제안
- 2.각 행동을 위임 권한·소유자 서명 행동헌법·사이트 행동계약 3개 독립 권위로 평가해 허용·검토·거부 결정
- 3.모든 행동을 위임·정책·의미 아티팩트에 바인딩하는 암호학적 검증 가능 거버넌스 영수증 생성
- 4.장기 실행 에이전트를 위한 standing delegation과 거버넌스 정확성 벤치마크 AgentBound-Bench 제공
왜 중요한가?
기존 에이전트 인프라의 신원 연합·위임 인가는 권한 있는 행동이 현재 맥락에서 실행되어야 하는지는 판단하지 못했다. AgentBound는 인가와 실행 사이에 결정론적 거버넌스 계층을 두어, 신뢰해야 하는 거버넌스를 독립 검증 가능한 것으로 전환한다.
언급 프로젝트
본문 미리보기
arXiv:2606.30970v1 Announce Type: new Abstract: Autonomous AI agents increasingly perform consequential actions on behalf of human principals, including financial transactions, external communications, and enterprise workflows. Existing agent infrastructure relies on identity federation and delegated authorization to authenticate workloads and control resource access, but it cannot determine whether an authorized action should be executed under the current behavioral and operational context.
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 13:08AI 초안
