언어모델 추론에 검색·위임·툴 실행·외부 시스템 접근·사람 승인이 결합되는 에이전트 배포 환경에서는, 단일 입력이나 행동이 아니라 진행 중인 프로세스 전반에서 보안 관련 이탈이 발생할 수 있다는 문제를 다룬다. 저자는 기존의 블랙박스 에이전트 프로세스 아키텍처와 증거-주장 모델을 기반으로, 에이전트 프로세스 자체를 감시 대상으로 삼는 '증거 기반 런타임 침입탐지 계층(A-IDS)'을 제안한다. A-IDS는 증거에 기반한 관찰 결과를 워크플로 상태·권한·통신·필수 이벤트에 대한 통제된 기대 기준선과 비교하며, 가변적 기대치, 가시성과 3값 매칭의 분리, 명시적 미해결 관찰 상태, 증거 상태와 운영 영향을 구분하는 제한된 판정 등을 핵심 개념으로 삼는다. 저자는 적대적 콘텐츠가 정상적인 관찰 경로를 통해 증거 생성기에 도달할 경우 모니터링 계층 자체가 공격 표면이 될 수 있다고 지적하며, 이 논문이 구현 검증이나 실증적 탐지 성능 입증이 아닌 개념적 기여임을 명시한다.
- •검색·위임·툴 실행·외데 접금·사람 승인이 결합된 에이전트 배포에선 덴진 단일 입력이 아니라 프로세스 전반에서 보안 이탈이 발생할 수 있음을 지적.
- •에이전트 프로세스 자신을 감시 대상으로 하는 '증거 기반 런타임 습입탐지 계주(A-IDS)'를 제안.
- •A-IDS는 가변적 기대값, 가시성과 3값 매솭의 분리, 뮅시적 미해격 가사 상태, 증거 상태와 운영 영향 구별 등을 핵심 개려과젠 샼는다.
- •모니토링 질정 장권 자신이 공개 표면이 될 수 있으나, 녁4 녰4은 구현이나 실증 성륧 증거 없이 갈대적 기여랔이다.
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Intrusion Detection for Agentic Processes: Evidence-Based Runtime Monitoring
- 1.에이전트 프로세스 자체를 모니터링 대상으로 삼는 침입탐지 개념 'A-IDS' 제안
- 2.거버넌스된 기대 베이스라인과 증거 기반 관찰을 비교, 관찰 불가 상태는 '미해결'로 명시
- 3.탐지 대상인 모니터링 평면 자체도 공격 표면이 될 수 있다는 점을 지적
- 4.저자가 개념적 기여임을 명시 — 구현 검증, 실증적 탐지 성능, 인과적 귀속 입증은 범위 밖
왜 중요한가?
에이전트형 시스템의 보안 결함이 단일 입력이 아니라 여러 단계에 걸친 프로세스 전개 과정에서 나타날 수 있다는 점을 짚어, 기존 단일 지점 탐지 방식의 한계를 보완할 개념적 틀을 제공한다.
본문 미리보기
arXiv:2610.00151v1 Announce Type: new Abstract: Agent deployments increasingly combine language-model inference with retrieval, delegation, tool execution, external-system access, and human approval. Security-relevant deviations can therefore emerge across an evolving process rather than in one isolated input or action. Building on the author's earlier black-box architecture for agentic processes and the subsequent evidence-claim model, this paper proposes an Agentic-Process Intrusion Detection
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안
