이 논문은 다중 에이전트 LLM 시스템(MAS)의 보안을 실행 수준에서 체계적으로 정리한 SoK(지식 체계화) 연구다. 연구진은 197편의 선행 연구를 분석해 6가지 상호작용 인터페이스, 4가지 공격자 위치, 7가지 시스템 수준 위험, 8가지 반복되는 공격 경로를 정리하고, 공격자 위치·상호작용 인터페이스·결과적 위험을 통합하는 'A-I-R 프레임워크'를 제안한다. 방어책은 경로 목표·관측·개입·신뢰 경계·복구라는 5단계 계약으로 구조화했으며, 경로 차단과 복구가 핵심 과제임을 지적한다. 44편의 평가·벤치마크 연구를 감사한 결과 상호작용 효과 분리, 비교 가능한 진단 지표 설계, MAS 설계 간 재사용성, 개방형 시스템 평가에서 여전히 해결되지 않은 과제가 많다는 점을 확인했다.
- •다중 에이전트 LLM 시스템(MAS) 보안을 실행 수준에서 체계화한 SoK 연구, 197편 분석
- •공격자 위치·인터페이스·시스템 위험을 통합하는 'A-I-R 프레임워크' 제안
- •방어책을 경로목표·관측·개입·신뢰경계·복구의 5단계 계약으로 구조화
- •44편 벤치마크 감사 결과 상호작용 효과 분리·재사용성 등 여전히 미해결 과제로 확인
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
SoK: When Safe Agents Fail Together: The Security of Multi Agent LLM Systems
- 1.멀티에이전트 LLM 시스템(MAS) 보안을 197편 문헌 기반 실행중심 관점으로 체계화한 SoK
- 2.공격을 적대자 위치·상호작용 인터페이스·시스템 위험으로 통합하는 A-I-R 프레임워크 제시
- 3.방어를 경로목표·관찰·개입·신뢰경계·복구 5단계 계약으로 정리, 경로차단과 복구를 핵심과제로 지목
- 4.44편의 평가·벤치마크 연구를 감사해 상호작용 효과 격리와 비교가능 지표 부재 등 공백 확인
왜 중요한가?
멀티에이전트 LLM 시스템에서 개별 컴포넌트는 안전해도 시스템 전체가 실패할 수 있다는 점을 실행 단위로 추적해야 한다고 지적하며, MAS 보안 평가와 방어 설계의 공통 언어를 제공한다.
본문 미리보기
arXiv:2609.00595v1 Announce Type: new Abstract: Safe agents can fail together. Multi-agent LLM systems (MAS) move information, state, decisions, and authority across principal boundaries, creating failures that local checks may miss. Without an execution-level view, a multi-agent setting can easily be mistaken for evidence of a genuinely multi-agent security effect. We thus systematize MAS security through an execution-centered analysis of 197 works, covering six interaction interfaces, four ad
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안
