0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
GRAD: Graph-Structured Antibody Defense for LLM Agents
출처:arXiv cs.CR (암호학·보안)
AI 인사이트
개발자
- 1.LLM 에이전트 전반에 분산된 메모리 오염·분해 공격 증거를 그래프로 통합 탐지하는 GRAD 제안
- 2.SSUM 모듈이 작업 텍스트·이벤트 속성·관계를 실행 그래프로 인코딩해 그래프 수준 위험 점수로 집약
- 3.CAA가 고정된 인코더 스냅샷 위에 전문가를 추가해 과거 탐지 능력을 유지하며 새 작업에 적응
- 4.Decomp·MCP·MRT에서 AUROC 최대 97%대로 기존 방어 능가, CAA는 Replay 대비 정확도 13%p 개선
왜 중요한가?
요청 단위 방어가 놓치기 쉬운, 여러 작업에 걸쳐 분산된 메모리 오염 공격을 그래프 기반으로 연결해 탐지하면서도 지속 학습 간 성능 저하 없이 적응한다는 점에서 에이전트 보안의 실용적 진전을 보여준다.
언급 프로젝트
본문 미리보기
arXiv:2610.22828v1 Announce Type: new Abstract: Memory poisoning and decomposition attacks distribute malicious evidence across the operations of large language model agents. Existing request-level defenses can miss such attacks because they assess individual inputs without connecting earlier information to later actions. Moreover, detectors must adapt as task contexts change, while updates to shared parameters can impair previously learned detection capabilities. To address these challenges, w
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
공유:
#AI에이전트#메모리포이즈닝#방어시스템#그래프구조
이 글이 만들어진 과정
- 11:24AI 초안