리눅스 보안 모듈(LSM) 구조를 본떠 LLM 서빙 단계에서 악성 프롬프트를 막는 보안 프레임워크 LMSM을 제안한 연구다. 해석가능성 기법으로 얻은 모델 내부 신호(희소 오토인코더, 트랜스코더, 밀집 프로브 등)를 그 자체로 쓰는 대신, 신호를 제공하는 백엔드와 정책을 평가하는 계층, 출력 공개를 승인하는 게이트로 역할을 분리했다. 이 구조 덕분에 요청 처리 로직을 다시 만들지 않고도 백엔드나 규칙, 스케줄을 교체할 수 있다. Qwen3-4B에 적용한 프로토타입은 HarmBench 공격 성공률을 39.20%에서 3.32%로 낮췄고, 정상 요청 오탐(XSTest)은 2.40%에서 4.40%로 소폭 상승했으며, 32개 동시 요청에서도 처리량의 98.14%를 유지했다. 해석가능성 연구 성과를 실제 런타임 방어로 연결하는 공통 경로를 제시한다.
- •LSM(리눅스 보안 모듈) 구조를 LLM 서빙에 적용한 LMSM 프레임워크
- •신호 백엔드/정책 평가/출력 게이트를 분리해 request handling 재구축 없이 모듈 교체 가능
- •Hugging Face Transformers·연속 배칭 vLLM 위에서 SAE·트랜스코더·밀집 프로브를 동일 기반으로 서빙
- •Qwen3-4B에서 HarmBench 공격 성공률 39.20%→3.32%로 감소
- •XSTest 오탐(정상 거부) 2.40%→4.40% 상승, 처리량은 98.14% 유지
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
LMSM: LLM Security Framework Inspired by Linux Security Modules
- 1.리눅스 보안모듈(LSM) 구조를 LLM 서빙에 적용한 보안 프레임워크 LMSM 제안
- 2.보안 백엔드-정책 평가-출력 게이트를 분리해 판정 로직과 정책 효과성을 독립적으로 교체 가능
- 3.Qwen3-4B에서 HarmBench 공격성공률을 39.20%→3.32%로 낮추며 처리량 98.14% 유지
- 4.XSTest 오탐 거부율은 2.40%→4.40%로 소폭 상승하는 트레이드오프 확인
왜 중요한가?
해석가능성 연구에서 나온 모델 내부 신호를 별도 통합 작업 없이 공유 가능한 런타임 집행 체계로 연결해, LLM 안전장치 구축·교체 비용을 낮춘다.
LLM에 대한 악의적인 프롬프트 공격이 다층 방어 체계를 우회하는 문제가 지속되면서, 리눅스 보안 모듈에서 영감을 받은 이 LLM 보안 프레임워크는 강력한 통제 메커니즘을 제시합니다. 국내 기업들이 안전하고 신뢰할 수 있는 LLM 서비스를 제공하기 위해선 단순한 프롬프트 필터링을 넘어 시스템 수준의 통합 보안 아키텍처가 필수적이며, 이는 AI 모델의 보안 안정성을 한층 강화할 수 있는 중요한 발전입니다.
본문 미리보기
arXiv:2608.25697v1 Announce Type: new Abstract: Large language models (LLMs) are increasingly deployed with layered defenses, yet malicious prompts can still bypass them. Interpretability methods can expose model-internal signals along the generation path that could inform enforcement, but these signals are not security controls by themselves. Deployments that adapt them for safety typically couple each signal to its own calibration, policy logic, and intervention code, so each new artifact cre
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안
![[AI리더의 서가] Agentic AI 구축 개발의 모든 것](https://cdn.aitimes.com/news/photo/202610/215958_219938_244.jpg)
