대형언어모델, 멀티모달 파운데이션 모델, 에이전틱 시스템을 포괄하는 프론티어 AI(FAI)가 핵심 인프라(CI)에 점점 통합되면서, 경계 지어진 행동·분할된 네트워크·구성요소 투명성·사람 속도의 의사결정이라는 기존 보안 가정에 도전한다. 기존 AI 보안 문헌은 공격 유형이나 생애주기 단계, 자산 분류로 위험을 정리하지만 위험이 어떻게 발생·확산·통제되는지 시스템 수준의 동역학은 포착하지 못한다. 이 지식체계화(SoK) 논문은 FAI가 CI 보안을 재구성하는 방식을 다섯 차원으로 특성화하는 위험동역학 프레임워크를 제시한다: FAI 기반 신규 공격·방어 역량의 등장, 데이터·모델·AI 공급망을 통한 침투 경로, 상호연결된 인프라 간 교차 시스템 전파, 기술적·인적 통제권한의 저하, 운영 압박 하 제도적 대응 역량의 부담이다. 저자들은 학계 AI 보안 연구와 CI 운영 제약 사이의 구조적 불일치를 지적하고, 시스템 수준 보증 기준에 기반한 배포 지향 연구 의제를 도출했다.
- •프론티어 AI(FAI)가 핵심인프라(CI)의 기존 보안 가정(경계 행동, 네트워크 분할 등)을 재편하는 문제 제기
- •위험 발생·확산·통제의 시스템수준 동역학을 포착하는 5차원 위험동학 프레임워크 제시
- •역량 등장, 침투 경로, 교차시스템 전파, 통제권한 저하, 대응역량 부담 5가지 차원으로 구성
- •위협 나열이 아니라 시스템수준 위험을 결정하는 반복적 메커니즘 식별에 초점
- •학계 AI 보안 연구와 CI 운영 제약 간 구조적 불일치 지적, 배포 지향 연구 의제 도출
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
SoK: How Frontier AI Reshapes System-Level Security Risk Dynamics in Critical Infrastructure
본문 미리보기
arXiv:2608.04033v1 Announce Type: new Abstract: Frontier artificial intelligence (FAI), encompassing large-scale, general-purpose AI systems, including large language models, multimodal foundation models, and agentic systems, is increasingly integrated into critical infrastructure (CI). This challenges long-standing security assumptions of bounded behavior, segmented networks, component transparency, and human-paced decision-making. Existing AI-security literature typically organizes risks by a
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:57AI 초안



