ANIS(Agent-Native Immune System)는 에이전트의 인지 루프 안에 직접 내장되는 생체 모방형 내생적 방어 아키텍처로, 정렬된 모델도 메모리 오염·툴체인 조작·다중 에이전트 프로토콜 공격 같은 런타임 하이재킹에 취약하다는 문제의식에서 출발한다. 비인지적 물리·논리 격리 계층(Barrier Immunity, L1)을 포함한 6계층 Immune Tower(L0~L5)를 설계하고, 표면적인 비파라메트릭 방어와 견고한 파라메트릭 백신을 구분하는 'Agent Virus/Vaccine' 통합 분류 체계를 제시했다. Meta·Self·Auto로 구성된 Harness Triad가 지속 면역 학습(CIL)을 구동해 새로운 위협에 백신을 동적으로 적응시킨다. 훈련 시의 정렬을 정적 '헌법', ANIS를 런타임의 동적 '법 집행'으로 구분하며, 오탐 개입률(Autoimmunity Rate) 같은 새 평가 지표와 면역 프로토콜 표준화를 향후 과제로 제시한다.
- •외부 방어(경계 보안·훈련시 정렬)만으로는 메모리 오염·툴체인 조작 등 런타임 하이재킹을 막지 못한다는 문제의식
- •비인지적 격리 계층(L1 Barrier Immunity)을 포함한 6계층 Immune Tower(L0~L5) 아키텍처 설계
- •Agent Virus/Vaccine 통합 분류로 비파라메트릭 방어와 파라메트릭 백신을 공식 구분
- •Meta·Self·Auto의 Harness Triad가 지속 면역 학습(CIL)을 구동해 신종 위협에 동적 적응
- •정렬=정적 헌법, 면역=런타임 법 집행이라는 이론적 구분과 Autoimmunity Rate 등 새 평가 지표 제안
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Agent-Native Immune System: Architecture, Taxonomy, and Engineering
- 1.자율 에이전트용 내재형 방어구조 ANIS 제안, 추론 루프 내부에 면역 체계 내장
- 2.6단계 면역 타워(L0~L5)와 물리·논리 격리 계층 Barrier Immunity(L1) 설계
- 3.Agent Virus/Vaccine 분류로 비파라메트릭 방어와 파라메트릭 백신을 구분
- 4.정렬은 학습기의 정적 가치, 면역(ANIS)은 런타임 동적 집행으로 역할 구분
왜 중요한가?
메모리 오염·툴체인 조작 같은 런타임 하이재킹은 정렬된 에이전트도 막지 못하는데, ANIS는 방어를 에이전트의 인지 루프 안으로 내재화해 기존 외곽 보안의 사각지대를 겨냥한다는 점에서 에이전트 보안의 새로운 프레임을 제시한다.
언급 프로젝트
본문 미리보기
arXiv:2606.28270v1 Announce Type: new Abstract: The transition from static chat bots to autonomous agents--equipped with persistent memory, tool-use protocols, and multi-agent collaboration--has fundamentally expanded the AI threat landscape. Current defense mechanisms, such as perimeter security and training-time alignment, remain external to the agent's active reasoning loop. Consequently, they fall short: a fully aligned agent remains highly vulnerable to runtime hijacking via memory poisoni
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 13:08AI 초안
