도구를 호출하고 로컬 상태를 변경하며 영속 메모리를 쓰는 LLM 에이전트가 늘면서 과도한 권한 행사, 취약한 감사 추적, 프롬프트 인젝션, 도구 오염 등 위험도 커지고 있다. 연구팀은 이런 문제에 대응해 도구 사용 LLM 에이전트를 위한 거버넌스형 로컬 우선 런타임 '에이전타오(Agentao)'를 제시했다. 에이전타오는 모델이 제안하는 행동과 호스트가 승인하는 실행을 분리하는 계층형 구조로, 호스트 인터페이스·호스트 계약·런타임 코어·권한 매개 도구 시스템과 메모리·재생·플러그인·서브에이전트·프로토콜 연동을 위한 보조 서브시스템으로 구성된다. 공식적인 안전성 보장을 제공하지는 않지만, 권한·상태·프로토콜 경계·실행 기록을 명시적 런타임 추상화로 만들어 호스트가 통제하는 로컬 환경에서 더 검증 가능하고 통제 가능한 에이전트를 만드는 방법을 보여준다. 코드는 깃허브에 공개돼 있다.
- •LLM 에이전트의 과도한 권한·약한 감사·프롬프트 인젠션·도구 오염 등 위험에 대응한 거버넌스형 런타임 '에이전타오' 제안.
- •모델의 행동 제안과 호스트의 실행 승인을 분리하는 계층형 아키텍처로 설계됨.
- •권한 매개 도구 시스템, 메모리·재생·플러그인·서브에이전트·프로토콜 연동 서브시스템으로 구성.
- •형식적 안전성 보장은 없지만 권한·상태·실행 기록을 명시적 런타임 추상화로 제공해 검증·통제 가능성을 높임.
- •코드는 깃허브(jin-bo/agentao)에 공개됨.
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Agentao: A Governed Local-First Runtime for Tool-Using LLM Agents
본문 미리보기
arXiv:2608.13574v1 Announce Type: new Abstract: LLM agents increasingly operate as execution systems that invoke tools, modify local state, use persistent memory, and interact with external protocols. These capabilities make agents useful, but they also introduce risks related to over-privileged actions, weak auditability, prompt injection, tool poisoning, and uncontrolled side effects. This paper presents Agentao, a governed local-first runtime for tool-using LLM agents. Agentao separates mode
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:21AI 초안
