대형언어모델의 안전성 정렬은 갈수록 다양해지는 공격에 취약한데, 크래프트된 프롬프트로 안전장치를 우회하는 탈옥 공격과 배포 후 안전 관련 뉴런을 직접 제거하는 뉴런 수준 공격 모두 안전 관련 정보가 소수 뉴런 집합에 집중돼 있다는 공통 약점을 노린다. 연구진은 파인튜닝 단계에서 안전 신호를 더 넓은 뉴런 집합으로 재분배해 두 공격 유형 모두를 동시에 방어하는 'NeuronGuard'를 제안한다. 이 기법은 주기적으로 갱신되는 레이어별 선형 분류기로 안전 핵심 뉴런을 동적으로 식별하고, 의도적 뉴런 제거 상황에서도 거부 행동을 강제하며, KL 발산 정규화로 분포 일관성을 유지하고 무작위 그래디언트 투영으로 방어와 작업 목표 간 충돌을 해소해 하위 작업 성능을 보존한다. 3개 LLM·6개 최신 공격 기법·멀티모달 환경 실험에서 공격성공률(ASR) 상한을 엄격히 낮춘다는 이론적 보장과 함께 화이트박스 적응형 공격에서도 거의 0%에 가까운 ASR을 유지하면서 작업 정확도를 유지했다.

• •탈옥 공격과 뉴런 수준 공격 모두 안전 정보가 소수 뉴런에 집중된 취약점을 공통으로 노림
• •파인튜닝 단계에서 안전 신호를 넓은 뉴런 집합으로 재분배하는 'NeuronGuard' 제안
• •레이어별 동적 분류기로 안전 핵심 뉴런 식별, KL 정규화·무작위 그래디언트 투영으로 성능 보존
• •3개 LLM·6개 공격 기법 실험에서 화이트박스 적응형 공격에도 거의 0%에 가까운 공격성공률 달성