LLM 기반 멀티에이전트 시스템의 위험 에이전트를 GNN으로 탐지하는 기존 방법은 한 운영자가 모든 라벨링된 트레이스를 모을 수 있다고 가정하지만, 실제로는 조직마다 프라이빗 프롬프트와 워크플로가 있어 전체 공격 분포를 볼 수 없다. 연구진은 이를 연합학습 문제로 재정의해 FGLGuard를 제안했다. 각 운영자가 자체 데이터로 엣지 특성 그래프 어텐션 탐지기를 학습하고 모델 업데이트만 공유하며, 비-IID 클라이언트용 근접 목적함수와 도메인 균형 집계, 과잉거부 제약 임계값 보정 등을 결합했다. Agent-SafetyBench, R-Judge, AgentDojo 세 벤치마크 모두에서 데이터 풀링 없이 중앙집중식 방식의 성능 상한을 넘어섰으며, AgentDojo에서는 공격 성공률을 43% 낮췄다. 데이터를 공유하지 않고도 조직 간 협력 방어가 가능함을 보여주는 실용적 결과다.

• •멀티에이전트 LLM 시스템의 위험 에이전트 탐지를 위한 GNN 기반 연합학습 프레임워크 FGLGuard 제안
• •각 운영자가 자체 데이터로 학습하고 모델 업데이트만 공유해 프라이버시 보장
• •비-IID 클라이언트 대응 근접 목적함수, 도메인 균형 집계, 과잉거부 제약 임계값 보정 결합
• •Agent-SafetyBench·R-Judge·AgentDojo 3개 벤치마크에서 중앙집중식 방식의 상한 성능을 초과
• •AgentDojo 기준 공격 성공률 43% 감소, API 비용 없이 성능 손실도 미미