지도 미세조정(SFT) 데이터 준비 시리즈 1편은 데이터 품질 점검과 포맷팅 기초를 다룬다. 정확성, 다양성, 유사 과제 간 일관성, 중복 제거, 유해성 검사가 핵심 품질 기준으로 제시되며, LIMA 연구는 엄선된 1,000개 예제만으로도 훨씬 큰 데이터셋을 능가할 수 있음을 보였다고 소개한다. 아마존 노바 등 최신 SFT 파이프라인은 JSONL 대화 형식을 사용하며, 추론 모델은 reasoningContent 필드로 사고 과정을 학습 데이터에 포함해야 한다고 설명한다. 원본 모델의 채팅 템플릿을 정확히 따르고 데이터의 10~20%를 평가셋으로 분리해 두는 것이 필수라고 강조한다.

• •LIMA 연구: 엄선된 1,000개 예제만으로도 훨씬 대규모 데이터셋 학습 모델을 능가하는 성능 달성
• •AlpaGasus: 지시 데이터셋을 상위 20% 품질로 필터링하면 전체 데이터보다 더 빠르고 높은 성능
• •아마존 노바 등은 JSONL 대화 형식과 역할 교대 규칙을 엄격히 요구, reasoningContent로 사고 과정 학습 지원
• •원본 모델의 채팅 템플릿을 그대로 따르지 않으면 시스템 프롬프트 무시나 출력 오류 유발 가능
• •데이터의 10~20%를 평가셋으로 반드시 분리해 과적합과 실제 학습 효과를 구분해야 함