이 논문은 자율 LLM 에이전트가 자격증명을 보유하고 도구를 호출하며 하위 에이전트를 생성하는 상황에서 '누가 무엇을 누구의 권한으로 할 수 있는가'라는 오래된 분산시스템 문제가 시급하고 미해결 상태임을 지적한다. 저자들은 에이전트를 구동하는 언어모델 자체가 공격자에게 탈취될 수 있다는 '신뢰할 수 없는 모델' 가정 하에 보안을 평가해야 한다고 주장하며, 사칭 대리인·토큰 탈취 및 재생·프롬프트 주입 권한 상승·손상된 하위 에이전트라는 4가지 위협에 대한 8가지 보안 요구사항을 도출했다. 광범위 무기명 자격증명을 쓰는 기본 에이전트 런타임은 4가지 위협 모두에 취약했고, LangGraph·CrewAI·AutoGen·MCP 등 4개 주요 프레임워크 중 3개는 내장 격리 기능이 전혀 없고 1개만 부분적으로 있었다. 저자들이 구현한 인가 브로커는 4가지 위협을 모두 차단했고, 20만 개의 위조 토큰을 전부 거부했으며, 손상된 하위 에이전트의 접근 가능 동작을 8100개에서 평균 1.5개로 제한하면서 판정당 약 2.6마이크로초라는 무시할 만한 비용으로 작동했다.
- •자율 LLM 에이전트 위임 체계를 '모델이 탈취될 수 있다'는 신뢰할 수 없는 모델 가정 하에 평가해야 한다고 주장
- •사칭대리인·토큰탈취·프롬프트주입 권한상승·손상 하위에이전트 등 4대 위협과 8개 보안요구사항 도출
- •LangGraph·CrewAI·AutoGen·MCP 등 주요 프레임워크 대부분이 내장 격리 기능 없음을 확인
- •저자 구현 인가 브로커, 20만 개 위조 토큰 전부 거부, 손상 에이전트 접근 범위를 8100→1.5개로 제한
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Delegation Without Trust: An Empirical Gap Analysis of Identity, Authorization, and Runtime Governance in Multi-Agent LLM Systems
- 1.위임된 권한을 벗어나지 못하게 하는 'untrusted-model' 기준으로 에이전트 보안을 재정의
- 2.혼동된대리인·토큰탈취재생·프롬프트주입권한상승·손상된하위에이전트 4대 위협과 8개 보안요구사항 도출
- 3.LangGraph·CrewAI·AutoGen·MCP 4개 프레임워크 중 3개는 내장 격리 전무, 1개만 부분 지원함을 확인
- 4.자체 구현한 인가 브로커는 4대 위협 모두 차단, 20만개 위조토큰 전부 거부, 결정당 2.6마이크로초 비용
왜 중요한가?
자율 LLM 에이전트가 사용자를 대신해 자격증명을 들고 하위 에이전트를 생성하는 구조에서, 주요 오픈소스 프레임워크 대부분이 프롬프트 주입 시 권한 상승을 막지 못한다는 공백을 드러내고 실용적 해법(인가 브로커)을 제시한다.
본문 미리보기
arXiv:2609.00267v1 Announce Type: new Abstract: Autonomous LLM agents increasingly act on a user's behalf: they hold credentials, call tools and services, and spawn sub-agents that act further on their behalf. This turns a long-standing distributed-systems question -- who is authorized to do what, on whose authority -- into an urgent and largely unsolved problem, because the component driving each agent is a language model an adversary can hijack. We argue that agent security must be evaluated
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안
![[AI리더의 서가] Agentic AI 구축 개발의 모든 것](https://cdn.aitimes.com/news/photo/202610/215958_219938_244.jpg)
