엔비디아의 경량 오픈 모델 '네모트론 3.5 라이트닝'이 아마존 세이지메이커 점프스타트에서 배포 가능해졌다. 총 300억 매개변수 중 30억 개만 활성화되는 하이브리드 전문가 혼합(MoE) 구조로 단일 GPU에서도 구동 가능하며, 대량 에이전트 작업에서 기존 대비 처리량 최대 4배, 작업 완료 속도 최대 30% 향상을 제공한다. 알림 분류, 양식 정보 추출 등 반복적이고 전문화된 에이전트 단계를 프론티어급 대형 모델 없이도 처리하도록 설계됐으며, 최대 100만 토큰의 컨텍스트 길이를 지원한다. 벤치마크에서는 NVFP4 양자화 버전이 BF16과 유사한 정확도를 유지했으며, 세이지메이커 점프스타트를 통해 별도 서빙 인프라 구성 없이 즉시 배포할 수 있다.

• •네모트론 3.5 라이트닝은 300억 매개변수 중 30억 개만 활성화되는 MoE 구조로 단일 GPU에서 구동된다.
• •고볼륨 에이전트 작업에서 처리량 최대 4배, 작업 완료 속도 최대 30% 향상을 제공한다.
• •최대 100만 토큰 컨텍스트를 지원해 장시간 세션에서도 상태를 유지할 수 있다.
• •금융, 사이버보안, 통신, 리테일 등 반복적 고빈도 업무에 특화된 활용을 목표로 한다.
• •NVFP4 양자화 버전은 BF16 대비 벤치마크 정확도가 거의 동등한 것으로 나타났다.