연구진은 LLM 다중 에이전트 시스템(LLM-MAS)에서 에이전트 간 통신을 가로채 메시지를 조작하는 '에이전트-인-더-미들(AiTM)' 공격에 대응하는 통신 계층 무결성 기법 'MIRROR'를 제안했다. MIRROR는 정규화된 하나의 페이로드를 k개의 논리적 경로로 복제해 전송하고, 과반수의 경로가 동일한 다이제스트를 보고할 때만 메시지를 수용하는 방식으로, 정직한 경로가 과반을 이룬다는 가정(경로 손상 비율 알파<0.5)에서만 무결성을 보장하며 상관된 경로 실패까지 확장 가능하다. MMLU, HumanEval, MBPP 등 두 프레임워크·네 가지 통신 토폴로지와 MetaGPT 실제 서비스 배포 환경에서 실험한 결과, MIRROR는 임계값 이하에서 공격 성공률을 0%로 낮추면서도 토큰 비용은 기존의 1배에 불과했다. 반면 비교 대상인 'LLM-as-a-Judge' 방식은 같은 환경에서 35배의 비용이 들면서도 정상 출력의 최대 44.2%를 차단하는 것으로 나타났다.
- •AiTM 거격은 에이전트 에이전트를 손상시키지 않고도 전쇡 중 바이전튜 메시지 조작, 기존 연구는 거의 100% 성군륨 를지
- •페이륡랄뤼을 k개 경로로 바이제하고 과반수 다이제스톸 일지 시에만 수용하릈 정족수 기반 무걱성 기법 MIRROR
- •경로 손상 바을 알파<0.5 가정 하 무걱성·가용성 보장, 상관된 경로 실패에도 확장 가능
- •MIRROR는 공격 성공륨 0%·1바 믄용 류성, LLM-as-a-Judge는 35바 믄용에류 정상 출륥 최뉨 44.2% 해윘
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
MIRROR: Multipath Quorum Integrity for LLM Multi-Agent Communication
- 1.LLM 멀티에이전트의 '중간자(AiTM)' 공격은 기존 공격성공률이 100%에 근접할 정도로 심각
- 2.통신계층 무결성 기법 'MIRROR' 제안, 동일 페이로드를 k개 경로로 복제해 과반수 일치 시만 승인
- 3.경로 침해 비율이 50% 미만인 한 무결성 보장, 상관된 경로에서도 보장을 확장 적용
- 4.MetaGPT 운영 환경에서 토큰 비용 1배로 ASR 0% 달성, LLM 심사자 방식은 비용 35배에 정상응답 44.2% 차단
왜 중요한가?
기존 방어가 추가 추론 비용(LLM 심사자)이나 TLS 종단 신뢰에 의존해 한계가 있었던 반면, MIRROR는 암호학적 인증 없이도 경로 다수결만으로 거의 공짜 비용에 공격을 차단해 실제 운영 환경에 적용 가능한 저비용 방어 대안을 제시한다.
본문 미리보기
arXiv:2610.02349v1 Announce Type: new Abstract: Inter-agent communication is central to Large Language Model Multi-Agent Systems (LLM-MAS), but it introduces an underexplored vulnerability: Agent-in-the-Middle (AiTM) attacks that manipulate messages in transit without compromising the agents themselves. Prior work reports Attack Success Rates (ASR) approaching 100% on structured tasks. Existing defenses rely on semantic validation, which requires additional inference and can block benign output
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안
