CUGA의 정책 시스템은 기업 에이전트에 모듈형 정책-as-코드 레이어를 추가하여 모델 파인튜닝 없이 예측 가능하고 감사 가능한 동작을 구현한다. 5개의 구조적 체크포인트(의도 가드, 플레이북, 도구 가이드, 인간 개입 게이트, 출력 포매터)에서 정책 개입을 강제한다. 의료 시나리오 데모에서 악의적 요청 차단, 구조화된 도구 시퀀스 강제, 위험 행동에 대한 인간 승인 체크포인트를 검증했다. 타입화된 거버넌스 프리미티브로 기업 에이전트 시스템의 신속하고 안전한 배포를 가능하게 한다.
- •5개 체크포인트(의도 가드, 플레이북, 도구 가이드, 인간 승인 게이트, 출력 포매터)가 실행 파이프라인 전체에 거버넌스를 연속적으로 적용한다.
- •제어 프레임워크는 도메인마다 에이전트를 재구성하지 않고 범용 LLM 위에 취합할 수 있다.
- •의료 시나리오 데모에서 동적 플레이북 주입, 악의적 요청 차단, 파괴적 행동에 대한 인간 승인 프로세스를 검증했다.
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Governance by Construction for Generalist Agents
- 1.기업용 에이전트에 정책 코드 계층을 추가해 거버넌스를 구현하는 CUGA 시스템 소개
- 2.실행 파이프라인의 5개 체크포인트(Intent Guard, Playbook, Tool Guide 등)에서 정책 집행
- 3.헬스케어 시나리오에서 의도 차단, 도구 시퀀스 강제, 인간 감독 게이트 기능 시연
- 4.모델 파인튜닝 없이 감사 가능하고 컴플라이언스를 준수하는 에이전트 동작 구현
왜 중요한가?
엔터프라이즈 AI 에이전트 배포에서 규정 준수와 안전성이 핵심 과제로 부상하면서, 모델 수정 없이 정책을 강제하는 런타임 거버넌스 아키텍처의 실용적 가치가 높다.
언급 프로젝트
본문 미리보기
arXiv:2605.20874v1 Announce Type: new Abstract: Enterprise agents are increasingly expected to operate autonomously across tools and interfaces, yet production deployments require governance by construction. Systems must specify which actions are allowed, when human oversight is required, and what information may be exposed, without rebuilding the agent for each domain. This demo presents CUGA's policy system, a modular policy-as-code layer that composes with a generalist LLM agent to deliver p
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:12AI 초안
