LLM 안전 정렬이 표면적이어서, 유해 의도를 창작 서사로 포장하는 "Semantic Camouflage" 공격에 취약하다는 점을 보인 연구다. Phi-3, Qwen2.5, Gemma-2b 세 SLM의 잠재 활성화 궤적을 분석해, 전체 레이어의 15~20% 지점인 "Intent Horizon"에서 유해 의도 표상이 안전한 서사로 붕괴됨을 발견했다. 후반부 레이어는 위장 공격과 정상 질의를 거의 구분 못했지만(탐지율 20% 미만), 초반부 레이어에는 뚜렷한 "유해 시그니처"가 남아있었다. 이를 활용한 경량 방어 기법 Latent Intent Verification(LIV)은 PKU-SafeRLHF 데이터셋에서 기존 가드레일보다 20~50%p 높은 성능으로 재학습 없이 제로데이 공격을 무력화했다.

• •Phi-3, Qwen2.5, Gemma-2b 세 SLM에서 전체 레이어의 15~20% 지점(Intent Horizon)에 유해 의도 표상 붕괴 확인
• •후반부 레이어 표상은 위장 공격과 정상 질의를 거의 구분 못함(탐지율 20% 미만)
• •초반부 레이어에는 유해 의도의 뚜렷한 시그니처가 남아있어 탐지 가능
• •경량 프로빙 방어 LIV, PKU-SafeRLHF에서 기존 가드레일 대비 20~50%p 성능 우위
• •모델 재훈련 없이 제로데이 시맨틱 공격 방어 가능