여러 에이전트, 플래너, 컨트롤러, 실행 백엔드가 하나의 사용자·기업 환경을 공유하는 이기종 AI 에이전트 시스템에서는 안전 문제가 시스템 차원의 '행동 거버넌스' 문제로 바뀐다. 기존 안전장치는 프롬프트, 도구 호출, GUI 행동 등을 개별적으로 다루다 보니 다단계 행동 흐름에서 생기는 위험이 감춰지고 감사·정책 갱신 지원이 제한적이었다. OpenAgentFlow는 GUI 행동, API 호출, 도구 호출, LLM 생성 명령을 하나의 AgentEvent 스트림으로 정규화해 실행 직전 공유 정책 집행 지점을 거치게 하고, 출처·세션 상태·감사 기록·갱신 가능한 정책을 통제 평면에서 관리하는 아키텍처다. 안드로이드에 구현해 300건 행동 벤치마크에서 정확도 94.0%, 공격 차단율 95.3%를 기록했고, 새 정책 설치 후 30건 동적 정책 테스트 중 27건에서 기대 동작과 일치했으며, 100건 에뮬레이터 스위트 중 98건 추적 사례에서 원시 정확도 90.8%, 추적 보정 통과율 92.9%를 달성해 실질적인 공유 집행 경계로서의 가능성을 보였다.
- •이기종 AI 에이전트 플릿을 위한 통제평면/행동평면 구조 OpenAgentFlow 제안
- •GUI·API·도구 호출을 하나의 AgentEvent 스트림으로 정규화해 공유 정책 집행점 통과
- •안드로이드 구현에서 300건 벤치마크 정확도 94.0%, 공격 차단율 95.3% 기록
- •새 규칙 설치 후에도 에이전트·모델 수정 없이 정책만 적용 가능
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
OpenAgentFlow: Enabling System-Wide Safety Boundaries for Heterogeneous AI Agent Fleets
- 1.OpenAgentFlow는 행동이 컮밋되기 전 단계에서 안전을 강제하는 컨트롤·액션 플레인 아키텍처
- 2.GUI·API·툴·LLM 명령을 하나의 AgentEvent 스트림으로 정규화해 공통 정책 집행 지점을 통과시킴
- 3.에이전트·모델을 건드리지 않고도 새 정책을 즉시 적용, 감사 기록을 컨트롤플레인에 보관
- 4.안드로이드 실험에서 행동 정확도 94.0%·공격 차단율 95.3%, 트레이스 보정 통과율 92.9% 기록
왜 중요한가?
이기종 AI 에이전트 플릿이 실제 시스템 상태를 바꾸기 전 단계에서 통일된 정책 집행점을 두는 구조는, 에이전트별로 파편화된 안전장치를 통합 감사·정책 갱신이 가능한 체계로 전환하는 실용적 청사진을 제시한다.
언급 프로젝트
본문 미리보기
arXiv:2609.00015v1 Announce Type: new Abstract: AI agents powered by large language models are evolving from isolated assistants into heterogeneous systems in which multiple agents, planners, controllers, and execution backends operate over the same user or enterprise environment. In such settings, safety becomes a system-level action-governance problem: deciding whether concrete agent-generated actions should be committed before they modify shared state. Existing safeguards cover prompts, tool
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:40AI 초안
![[AI리더의 서가] Agentic AI 구축 개발의 모든 것](https://cdn.aitimes.com/news/photo/202610/215958_219938_244.jpg)
