이 논문은 대형 언어모델용 안전 가드레일을 상용 하드웨어에 배포하기 위한 라이선스 인지형 지식증류 레시피를 제시한다. 24개 공개 데이터셋에서 추출한 약 9만7000개 프롬프트를 강력한 오픈 가드 모델로 7개 안전 카테고리에 라벨링하고, 어휘·얕은·인코더·생성형 등 다양한 소형 학생 모델을 학습시켰다. 6361개 행으로 구성된 독립 골드 벤치마크로 평가한 결과, 가장 작은 생성형 학생 모델은 오탐률 3.8%로 80억 파라미터 교사 모델의 4.8%보다 오히려 낮았고, 인코더 모델은 CPU에서 요청당 약 24밀리초 만에 분류를 완료했다. 클래스별 재조정(rebalancing)이 성능 개선의 핵심 요인으로 확인됐으며, 다만 정제 데이터에서는 여전히 원본 교사 모델이 근소하게 앞선다.

• •9만7000개 프롬프트를 7개 안전 카테고리로 라벨링해 소형 가드 모델 증류 학습
• •최소 생성형 학생 모델 오탐률 3.8%, 80억 파라미터 교사(4.8%)보다 낮음
• •인코더 모델은 CPU에서 요청당 약 24ms로 분류 가능
• •클래스별 재조정이 성능 개선의 핵심 요인으로 확인