Building Reasoning Models from the Ground Up: A Full Video Course↗ (원문, 새 창)

세바스찬 라시카가 추론 모델을 처음부터 구현하는 11시간 분량의 8편짜리 코딩 강의를 공개했다. 사전학습된 Qwen3 모델을 기반으로 평가, 추론 시점 스케일링, 강화학습, 지식증류를 파이썬과 파이토치로 직접 구현하며, 저서 '밑바닥부터 만드는 추론 모델'과 함께 보도록 구성됐다. 강의는 텍스트 생성과 KV 캐싱 구현부터 검증기 제작, 다중 샘플링과 자기정합성, 자기개선, GRPO 기반 강화학습, 교사 모델을 활용한 지식증류까지 단계별로 다룬다. 초반은 CPU로도 학습 가능하지만 강화학습 등 후반 실습에는 GPU가 필요하며, 모든 강의 영상과 코드는 무료로 제공된다.

• 세바스찬 라시카가 추론 모델을 처음부터 구현하는 11시간 분량의 8편 코딩 강의를 공개했다.
• 사전학습된 Qwen3 모델로 평가, 추론 시점 스케일링, 강화학습, 지식증류를 직접 구현한다.
• GRPO 기반 강화학습과 교사 모델을 활용한 지식증류까지 단계별로 다룬다.
• 초반 실습은 CPU로 가능하지만 강화학습 등 후반에는 GPU가 필요하다.
• 저서 '밑바닥부터 만드는 추론 모델'과 함께 볼 수 있도록 구성됐다.