이 논문은 자동화된 보안 결정에 대한 위험 인증이 아무 행동도 하지 않는 시스템에서도 성립될 수 있다는 '공허성 문제'를 지적하고, 이를 방지하는 '결정-계약 이론'을 제시한다. 오류를 유해 자동화, 인간 위임, 의미적 은폐 세 범주로 재분배하는 오류 보존 법칙과, 전부 기권하는 해법을 원천 배제하는 비퇴화 실행가능성 인증서를 개발했다. ATT&CK 기반 침입탐지 경보 분류에 이를 적용해 3개 IDS 데이터셋·6개 LLM·4개 오류율 임계값 조합의 90.3%에서 목표 위험 수준을 충족했고 평균 정확 자동화율은 83.4%를 기록했다. 이는 LLM 기반 보안 자동화 시스템이 실제로 유의미하게 작동하는지 검증하는 실용적 틀을 제공한다.
- •행동을 하지 않는 시스템도 위험 기준을 통과할 수 있는 '공허성' 문제를 구조적으로 규명
- •오류를 유해 자동화·인간 위임·의미적 은폐로 재분배하는 오류 보존 법칙 제시
- •전부 기권하는 해법을 배제하는 비퇴화 실행가능성 인증서 개발
- •3개 IDS 데이터셋, 6개 LLM, 4개 임계값 조합의 90.3%에서 목표 위험 충족, 평균 정확 자동화율 83.4%
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Non-Degenerate Risk Certification for Automated Security Decisions: A Decision-Contract Theory with ATT\&CK-Aligned Triage as a Worked Instance
- 1.자동화 결정의 무조건적 리스크 인증이 '전부 기권'하는 선택자로도 충족될 수 있다는 구조적 허점 지적
- 2.결정계약(decision contract) 이론을 제시, 오류가 유해자동화·인간위임·의미적은폐 중 하나로만 재배분됨을 보이는 오류보존법칙 도출
- 3.ATT&CK 정렬 경보분류(LLM기반 침입탐지)에 적용, 3개 IDS 데이터셋·6개 LLM·4개 오류율 기준으로 실험
- 4.구성의 90.3%에서 목표 리스크 이내 오귀속률 유지, 평균 83.4%의 정상 자동화율 달성
왜 중요한가?
'리스크가 낮다'는 인증만으로는 시스템이 실제로 유용하게 작동하는지 보장하지 못한다는 맹점을 이론적으로 규명하고, 이를 실제 보안 경보 분류에 적용해 검증했다는 점에서 자동화 리스크 평가 방법론에 실질적 기준을 제시한다.
본문 미리보기
arXiv:2608.12444v1 Announce Type: new Abstract: An unconditional risk bound on automated decisions can be satisfied without automating anything, since a selector that never acts drives the bound to zero. We show this is structural: any risk certificate is defined over a decision contract, the inputs a system acts on plus the semantic relation under which an output counts correct, and weakening either hides base-classifier error. We develop a decision-contract theory: an error-conservation law s
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:23AI 초안



