엔비디아 연구진이 텍스트뿐 아니라 이미지·문서·스크린샷·생성 응답까지 정책 기반으로 판정하는 40억 파라미터 규모의 경량 비전-언어 안전 모더레이터 'Nemotron 3.5 Content Safety Moderator(Nemotron 3.5 CS)'를 공개했다. 이 모델은 12개 언어로 사용자 프롬프트, 이미지, 어시스턴트 응답을 동시에 분류하며, 지연시간에 민감한 모더레이션을 위한 안전 라벨을 반환하는 동시에 요청 시 맞춤 정책 위반 카테고리를 식별하는 간결한 추론 과정도 생성할 수 있다. 연구진은 실사 이미지 모더레이션, 양성 비전-언어 및 문서 과제, 합성 희귀 위험·탈옥 사례, 맞춤 정책 예시를 아우르는 다국어·멀티모달 안전 데이터셋도 함께 공개했다. 멀티모달 안전성, 텍스트 모더레이션, 다국어 강건성, 맞춤 정책 준수, 양성 오탐, 지연시간 등 전 영역 평가에서 전문 가드 모델과 경쟁력 있는 성능을 보이며 실용적인 커버리지 절충안을 제시했다.

• •엔비디아, 40억 파라미터 경량 비전-언어 안전 모더레이터 Nemotron 3.5 CS 공개
• •텍스트·이미지·문서·스크린샷·생성 응답까지 12개 언어로 정책 기반 판정
• •지연시간 민감형 안전 라벨과 요청형 정책 위반 추론 과정 모두 지원
• •실사 이미지·양성 과제·합성 희귀위험·탈옥 사례 포함한 멀티모달 안전 데이터셋 공개
• •멀티모달·다국어·정책준수·오탐·지연시간 전영역에서 전문 가드모델과 경쟁력 확인