AI
Open Thoughts - 추론 모델을 위한 데이터 레시피
두줄요약
추론 모델 학습용 데이터 레시피를 실험 중심으로 정리한 글입니다. 어려운 질문 선별, 다중 답변 생성, 데이터 확장이 성능 향상에 중요하다고 설명했습니다.
핵심 내용
- 추론 모델 학습용 데이터를 어떻게 설계할지 다룬 연구 요약
- 어려운 질문 중심의 소수 고난도 소스 선택, 질문별 다중 답변 생성, 완화된 검증·필터링, 데이터 규모 확장 등 실험 축 정리
- 수학·코드·과학 벤치마크에서 데이터 레시피에 따라 성능이 달라지며, 특히 질문 선택과 답변 수가 중요하다는 관찰
- 완전한 정답 검증보다 다양한 reasoning trace와 충분한 데이터량이 추론 성능 향상에 더 유효하다는 결론
적용해볼 점
- 난이도 높은 질문 소스부터 선별하는 데이터 구성
- 한 질문에서 여러 답변을 생성하고 과도한 필터링은 피하는 접근
- 추론 trace를 임의로 자르지 않고 학습 데이터로 활용하는 방식 검토