NVIDIA가 멀티모달·다국어 콘텐츠 안전 모델 'Nemotron 3.5 Content Safety'를 공개했다. Google Gemma 3 4B 기반에 LoRA 어댑터를 붙인 4B 파라미터 모델로, 텍스트·이미지·응답을 하나의 컨텍스트로 묶어 단일 추론에서 안전 판정을 내린다. 가장 큰 추가는 추론 시점에 자연어로 정의한 커스텀 정책을 적용할 수 있는 기능과, 판정 근거를 단계별로 남기는 THINK 모드다. 12개 언어를 명시적으로 학습하고 약 140개 언어에 제로샷 일반화하며, 다국어 Aegis에서 평균 96.5% 정확도를 기록했다. 학습 이미지의 99%가 실제 사진이며, 대부분 비공개인 OSS 안전 모델과 달리 학습 데이터셋도 함께 공개했다. 규제 산업에서 감사 가능한 도메인별 안전 가드레일을 저지연으로 운용할 수 있게 한다.
- •Gemma 3 4B 기반 LoRA 모델로 텍스트·이미지·응답을 단일 컴텍스트로 평가해 상호작용에서 생기는 위반까지 포착
- •추론 시점에 자연어로 정의한 도메인별 커스텀 정책 적용 기능과 감사 가능한 THINK 추론 트레이스 추가
- •12개 언어 명시 학습 + 약 140개 언어 제로샷 일반화, 다국어 Aegis 96.5%·RTP-LX 88.8% 정확도
- •학습 이미지의 99%가 합성이 아닌 실제 사진, OSS 안전 모델 중 드물게 학습 데이터셋도 함께 공개
- •Qwen 397B→Qwen 80B 2단계로 추론 트레이스를 3문장 이내로 압축해 저지연 유지, 대안 모델 대비 최대 50% 적은 토큰 생성
Nemotron 3.5 Content Safety: Customizable Multimodal Safety for Global Enterprise AI
- 1.NVIDIA, 멀티모달·다국어 콘텐츠 안전 모델 Nemotron 3.5 Content Safety 공개 (4B)
- 2.텍스트·이미지·응답을 한 번의 추론으로 통합 평가, 커스텀 정책·추론 트레이스(THINK) 지원
- 3.12개 언어 학습+약 140개 언어 제로샷, Multilingual Aegis 96.5% 정확도
- 4.Gemma 3 4B 기반 LoRA, 학습 데이터셋 공개·이미지 99%가 실제 사진
왜 중요한가?
기업이 의료·금융·교육 등 도메인별 안전 정책을 자연어로 주입해 한 모델로 적용할 수 있게 한 점이 핵심 진전이다. 4B 소형 설계로 LlamaGuard 대비 낮은 지연·비용을 유지하면서 다국어·멀티모달 가드레일을 실전 파이프라인에 쓸 수 있고, 안전 학습 데이터셋까지 공개해 OSS 안전 모델의 투명성을 높였다.
엔비디아 네모트론 3.5의 맞춤형 멀티모달 콘텐츠 안전 기능은 국내 기업 AI 도입에 있어 중요한 요소입니다. 한국의 특수한 문화적, 사회적 맥락을 고려한 유해 콘텐츠 필터링 및 안전장치 구축은 기업용 AI 서비스의 신뢰성을 확보하고 규제 준수에 필수적이며, 이는 AI 윤리 준수를 넘어 실제 서비스 운영의 핵심이 될 것입니다.
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
