딥시크, AI 추론 비용 낮출 실전 엔진 ‘딥인퍼’ 전격 공개…대규모 추론 최적화 기술 오픈소스화↗ (원문, 새 창)

본문 미리보기

딥시크(DeepSeek)가 대규모 인공지능(AI) 모델을 실제 서비스 환경에서 구동하는 자체 추론 프레임워크를 오픈소스로 공개했다. 모델의 학습과 성능 경쟁을 넘어, AI가 사용자 요청에 응답하는 과정에서 처리량을 높이고 지연시간과 연산 비용을 줄이는 추론 인프라까지 공개해 개발자와 기업의 활용 범위를 넓히려는 움직임이다.딥시크는 20일, 자체 개발한 추론 프레임워크 ‘딥인퍼(DeepInfer)’를 전면 오픈소스로 공개했다고 밝혔다. 회사는 딥인퍼가 높은 처리량과 낮은 지연시간을 바탕으로 ‘딥시크 V4.1 플래시(DeepSeek-V