LLM이 사이버보안 방어 선택 같은 구조화된 안전 추론을 실제로 수행하는지, 아니면 표면적 단서와 사전지식에만 의존하는지를 랜섬웨어·공급망 침해·클라우드 남용·쿠버네티스 공격·POS 악성코드·ICS/OT 침입 등 실제 위협 시나리오의 공격 그래프로 검증한 연구다. 예산 제약 하에서 공격자 성공을 최소화하는 보안 통제를 선택하도록 하고, 게임이론적 최적화 기준선과 비교했다. 명시적 공격 그래프 구조가 주어지면 LLM은 최적화 기준선에 근접한 전략을 산출했지만, 그래프가 복잡해질수록 취약해지고 프레이밍에 매우 민감했다 — 프롬프트를 조금만 바꾸거나 나쁜 전략을 "최적"이라고 재라벨링하는 것만으로도 평가가 크게 달라졌다. LLM이 생성한 최적화 솔버는 고수준 정식화는 맞았지만 전용 솔버 대비 확장성이 떨어졌다. LLM은 통제된 표현 하에서 구조화된 보안 추론을 근사할 수는 있지만 견고하게 적용하지는 못한다는 결론이다.
- •랜섬웨어·공급망·클라우드·쿠버네티스·POS·ICS/OT 등 실제 위협 공격 그래프로 LLM 방어 선택 능력 검증
- •명시적 그래프 구조 제공 시 게임이론 최적화 기준선에 근접한 전략 산출
- •그래프 복잡도가 높아질수록, 프레이밍(프롬프트 문구)에 따라 성능이 크게 흔들림
- •나빼 전략을 "최적"이라 재라벨링만 해도 평가가 크게 개선되는 취약성 확인
- •LLM이 생성한 최적화 솔버는 정식화는 맞지만 전용 솔버 대비 확장성 부족
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Structured but Fragile: On the Limits of LLMs in Cybersecurity Decision-Making
- 1.랜섬웨어·공급망·클라우드·쿠버네티스·ICS/OT 등 공격 그래프에서 LLM 방어선택 능력을 게임이론 최적화와 비교
- 2.공격 그래프 구조가 명시되면 LLM이 최적해에 근접한 전략을 내나, 복잡도가 올라갈수록 성능이 급격히 불안정해짐
- 3.프롬프트를 살짝 바꾸거나 나쪻 전략을 '최적'이라고 라벨만 바꿔도 LLM 평가 순위가 크게 흔들림
- 4.동일 문제의 solver 코드 생성을 요청하면 수식화는 맞지만 전용 solver보다 확장성이 크게 떨어짐
왜 중요한가?
LLM이 구조화된 사이버보안 의사결정을 조건부로만 수행할 뿐 견고하게 적용하지 못함을 실증해, AI 기반 보안 의사결정 지원 시스템 설계·평가 시 신중한 검증이 필요함을 시사한다.
본문 미리보기
arXiv:2608.20966v1 Announce Type: new Abstract: Large language models (LLMs) are increasingly used in cybersecurity workflows, yet it remains unclear whether they can perform structured security reasoning or merely rely on superficial cues and prior knowledge. We study this question in the context of defence selection over attack graphs derived from real-world threat scenarios, including ransomware, supply-chain compromise, cloud abuse, Kubernetes attacks, POS malware, and ICS/OT intrusion. Giv
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안
![[AI리더의 서가] Agentic AI 구축 개발의 모든 것](https://cdn.aitimes.com/news/photo/202610/215958_219938_244.jpg)
