이 논문은 보안 운영 센터(SOC)에 통합된 LLM이 로그 오염을 통한 간접 프롬프트 인젝션 공격에 취약하다는 문제를 다루며, 이를 방어하는 뉴로심볼릭 심층 방어 아키텍처를 제안한다. 1차 방어층은 맞춤형 SIEM 디코더로 볼류메트릭 패딩이나 시그니처 기반 인젝션을 수집 단계에서 결정론적으로 정제하고, 2차 방어층은 NeMo Guardrails로 구조화된 SIEM 경고에 대해 LLM 처리 전 의미론적 자가 검증을 수행한다. 폐쇄 루프 텔레메트리 시스템을 통해 차단된 공격을 SOC 대시보드에서 사람이 직접 확인할 수 있도록 했으며, MITRE ATLAS 분류 체계에 매핑한 실험으로 방어 효과를 검증했다.
- •LLM 기반 SOC의 로그 오염발 간접 프롬프트 인젝션(프롬프트웨어 킬체인) 위협을 지적
- •SIEM 디코더 기반 결정론적 사전 필터 + NeMo Guardrails 의미 검증의 2단 방어 구조 제안
- •폐쇄 루프 텔레메트리로 차단된 공격을 SOC 대시보드에서 인간이 확인(HITL) 가능
- •MITRE ATLAS 분류체계 기반 실험으로 프롬프트웨어 킬체인 무력화 효과 입증
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Architecting the Secure AI-SOC: A Neurosymbolic Framework for Pipeline Integrity and Threat Mitigation
- 1.SOC(보안운영센터)에 LLM 도입 시 로그 오염을 통한 간접 프롬프트 인젝션에 대응하는 뉴로심볼릭 방어 아키텍처 제안
- 2.SIEM 디코더 기반 결정론적 전처리 필터와 NeMo Guardrails 기반 의미론적 검증을 결합한 2단 방어 구조
- 3.MITRE ATLAS 기준 실험에서 프롬프트웨어 키체인을 차단하면서 SOC 대시보드에 인간개입(HITL) 가시성 제공
왜 중요한가?
LLM을 SOC에 도입할 때 필연적으로 따르는 로그 기반 인젝션 위험을, 결정론적 필터와 신경망 검증을 결합한 방식으로 지연시간과 오탐률을 함께 줄이며 대응할 실용적 설계를 제시한다.
언급 프로젝트
LLM 기반 AI를 보안관제센터(SOC)에 통합하는 것은 한국 기업의 사이버 보안 역량을 강화하는 필수적인 추세입니다. 본 연구는 로그 오염을 통한 간접 프롬프트 인젝션과 같은 위협에 대응하는 안전한 AI-SOC 설계를 위한 뉴로심볼릭 프레임워크를 제시하며, 이는 한국 기업들이 AI 기반 보안 시스템의 무결성을 확보하고 최신 공격에 효과적으로 대응하는 데 중요한 가이드라인이 될 것입니다.
본문 미리보기
arXiv:2609.10707v1 Announce Type: new Abstract: The integration of Large Language Models (LLMs) into Security Operations Centers (SOCs) streamlines threat intelligence but introduces critical vulnerabilities, notably indirect prompt injection via log poisoning. Adversaries exploit this vector to execute multistep ``promptware'' kill chains by embedding malicious payloads within system logs to hijack the LLM's operational logic. Securing this pipeline presents a dichotomy: deterministic defenses
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안

![[10월12일] AI가 암을 치료해도 원리를 알아야 할까…수학자 타오의 질문에 쏟아진 반론](https://cdn.aitimes.com/news/photo/202610/216150_220160_1157.jpg)

