0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Fine-tuning GPT-OSS-20B for multilingual reasoning on Amazon SageMaker HyperPod (원문, 새 창)
한국어 요약
Claude · 2026-10-21아마존이 세이지메이커 하이퍼팟에서 오픈소스 추론모델 GPT-OSS-20B의 다국어 추론 성능을 개선한 사례를 소개했다. 기본 모델은 프랑스어·독일어 등으로 추론하라는 지시에도 영어로 사고과정을 전개해, 정답 언어 일치율이 22%에 불과했다. 지도학습 미세조정(SFT)만으로 추론언어 정확도를 100%까지 끌어올렸고, 이후 강화학습 기법 GRPO를 추가해 답변언어 정확도를 62%에서 70%까지 개선했다. 연구팀은 SFT가 모델이 전혀 하지 못하는 행동을 가르치는 역할을, GRPO는 이미 가끔 할 수 있는 행동을 정교화하는 역할을 한다는 결론을 제시하며, 이미 정점에 도달한 과제(GSM8K)에는 GRPO가 추가 효과를 내지 못한다는 점도 함께 확인했다.
- 아마존, 세이지메이커 하이퍼팟서 GPT-OSS-20B 다국어 추론 미세조정 사례 공개
- 기본 모델 추론언어 정확도 22%에서 SFT만으로 100%까지 개선
- GRPO 추가 적용으로 답변언어 정확도 62%→70%(+8%p) 향상
- SFT는 '없는 행동' 학습, GRPO는 '가끔 하는 행동' 정교화라는 역할 분리 제시
- 이미 정점 성능(GSM8K 90.5%)인 과제엔 GRPO 효과 없음도 확인(헤드룸 필요)
AI 인사이트
- GPT-OSS-20B 기본 모델은 추론 언어 지정 시에도 22%만 지시를 따르고 대부분 영어로 사고
- SageMaker HyperPod에서 LoRA SFT만으로 추론 언어 정확도를 22%→100%로 끌어올림
- SFT 체크포인트 위에 GRPO를 얹어 답변 언어 정확도를 62%→70%로 추가 개선
- Qwen2.5-7B 대조실험에서 이미 정점(90.5%)인 GSM8K는 GRPO로 전혀 개선 안 됨
왜 중요한가
모델이 전혀 못하는 행동은 SFT로, 가끔 맞히는 행동은 GRPO로 다듬는다는 의사결정 기준을 실측 수치로 제시해, 오픈웨이트 모델을 특정 행동에 맞게 커스터마이징할 때 어떤 기법에 GPU 시간을 투자해야 할지 명확히 알려준다.
본문 미리보기
Learn how we fine-tuned GPT-OSS-20B for multilingual reasoning on Amazon SageMaker HyperPod, and how to decide between supervised fine-tuning (SFT) and reinforcement learning with GRPO. SFT took reasoning-language accuracy from 22% to 100%, and GRPO added measurable gains where headroom existed.
전체 내용이 궁금하다면?
AWS ML Blog에서 원문을 직접 읽어보세요
- #LLM
- #미세 조정
- #다국어
- #AI 학습
- #Amazon SageMaker
이 글이 만들어진 과정
- 11:02AI 초안