지속적 인간 감독 없이 작동하는 자율 에이전트(LLM 소프트웨어·로봇)의 공통 실패 모드를 막기 위해, 5개 실행 기어와 효용 게이트 디스패치·이벤트 기반 폴백을 결합한 이산 시간 제어 시스템을 제안한다. 단일 에이전트에 대해 단조 안정성, 실행 안전성, 최종 안정화, 폴백 완전성, 기어 제약 MDP 등가성을 증명했고, 멀티에이전트 CPS에는 SMART 관리형 자율 수명주기를 적용해 런타임 증거를 4개 거버넌스 상태로 매핑한다. 3대 UR5 로봇 조립 셀에서 NIST 열화 데이터로 보정한 1만 회 몬테카를로 실험 결과, 이상 탐지율 99.6%(단일 에이전트 2.1% 대비), 탐지 지연 3.5배 단축, 형식적 물리 작업공간 안전 인증을 달성했다.
- •5개 실행 기어와 효용 게이트 디스패치·이벤트 기반 폴백을 결합한 이산 시간 제어 시스템
- •단일 에이전트에서 단조 안정성·실행 안전성·최종 안정화 등과 기어 제약 MDP 등가성 증명
- •멀티에이전트 CPS에 SMART 수명주기 적용, 합의 게이팅·스왈 Lyapunov 분석으로 무충돌 보장
- •UR5 3에이전트 조립 셔에서 이상 탐지율 99.6% vs 2.1%, 탐지 지연 3.5배 단축
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Managed Autonomy at Runtime: Gear-Based Safety and Governance for Single- and Multi-Agent Cyber-Physical Systems
- 1.5개 실행 기어와 효용 기반 디스패치·이벤트 폴백을 결합한 이산시간 제어 시스템 제안
- 2.단일 에이전트에 단조 안정성·실행 안전·최종 안정화 등 형식적 보장 증명
- 3.다중 에이전트 CPS엔 SMART 관리 자율성 수명주기의 4개 거버넌스 상태 매핑
- 4.3-에이전트 UR5 로봇 셀 실험서 이상 탐지율 99.6% 달성, 단일 기준선 2.1% 대비
왜 중요한가?
인간 감독 없이 작동하는 자율 에이전트의 안전 위반·불안정·오류 상태 문제를 실행 제어와 자율성 거버넌스로 분리해 다루고, 형식 증명과 로봇 실험으로 충돌 제로 등 안전 보장을 입증한다.
본문 미리보기
arXiv:2607.00334v1 Announce Type: new Abstract: Autonomous agents, whether LLM-driven software agents or robotic physical agents, face a common class of failure modes when operating without continuous human oversight: safety violations from unverified actions, behavioral instability from unconstrained loops, and continuity loss from unhandled error states. We develop \system{}, a discrete-time control system that combines five execution gears (\Gobs{}, \Gsug{}, \Gplan{}, \Gexec{}, \Gint{}) with
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 13:08AI 초안
