자율 에이전트 시스템은 잘못된 결정뿐 아니라 실행 시점에 권한이 더 이상 유효하지 않은 결정을 실행함으로써 실패한다. 이 논문은 재구성 권한(RAM) 조건을 런타임에 강제하는 실행 모델을 제시하며, 기존 허가/거부 외에 '중단(halt)' 상태를 추가해 권한을 구성하지 못한 경우 실행을 정지한다. 드리프트 감지(IML)와 실행 제어(ACP)를 통합한 복구 루프로 누락 정보 획득 후 권한을 재구성해 실행을 재개하며, 안전성(권한 없는 실행 불가)과 조건부 활성(권한 변수 관측 가능 시 재개)을 형식적으로 보장한다.
- •자율 에이전트의 새로운 실패 유형(런타임 권한 소멸 후 실행)을 다루는 재구성 권한(RAM) 런타임 강제 모델 제안.
- •허가/거부 외 '중단(halt)' 상태를 실행 상태 공간에 추가, 권한 불확실 시 실행 정지.
- •드리프트 감지(IML)·실행 제어(ACP) 통합 복구 루프로 누락 정보 획득 후 권한 재구성·실행 재개.
- •안전성(권한 없는 실행 불가) + 조건부 활성(권한 변수 관측 가능 시 재개) 형식 보장.
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Operationalizing Reconstructive Authority: Runtime Construction, Dependency Resolution, and Execution Gating in Autonomous Agent Systems
- 1.자율 에이전트의 실행 실패 원인이 잘못된 결정이 아니라 '런타임에 더 이상 유효하지 않은 권한'으로 실행하는 것임을 분석
- 2.admit/deny 외 'halt' 상태를 추가한 런타임 실행 모델로 불완전 관찰 시 실행 일시 중지 후 권한 재구성 시도
- 3.드리프트 감지(IML)와 실행 제어(ACP)를 통합한 Recovery Loop으로 안전성과 조건부 활성성 동시 보장
왜 중요한가?
자율 에이전트가 구성 불가능한 권한으로 행동하는 런타임 안전성 문제를, 권한 재구성 가능성을 조건으로 명시적으로 집행하는 프레임워크로 해결해 실제 에이전트 시스템 배포 신뢰성을 높인다.
자율 에이전트 시스템이 잘못된 의사결정을 실행하지 않도록 제어하는 이 연구는 국내 자율주행, 스마트 팩토리 등 AI 자동화 시스템의 신뢰성 확보에 필수적입니다. 런타임 중 유효하지 않은 결정을 차단하는 '재구성적 권한(RAM)' 개념은 한국 시장에서 AI 시스템의 안전성 및 책임 문제를 다루는 데 중요한 기준이 될 것입니다. 이는 향후 AI 관련 법규 및 가이드라인 마련에도 영향을 미칠 수 있습니다.
본문 미리보기
arXiv:2605.23935v1 Announce Type: new Abstract: Autonomous agent systems fail not only due to incorrect decisions, but due to executing decisions whose authority no longer holds at runtime. Prior work defined Reconstructive Authority (RAM) as a condition for valid execution: actions are permitted only if authority can be constructed from current state. This paper addresses enforcement at runtime: how to enforce this condition in a running system. We introduce a runtime execution model in wh
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 13:12AI 초안

