AI
sLLM, Gemma 파인튜닝 예
두줄요약
Gemma sLLM을 한국어 요약용으로 파인튜닝하는 과정을 Hugging Face와 QLoRA 기반으로 소개했습니다. 데이터셋 준비부터 프롬프트 구성, 학습, 병합 모델 추론까지의 흐름을 정리했습니다.
핵심 내용
- Gemma sLLM의 한국어 요약 모델 파인튜닝 예시 소개
- Hugging Face transformers, datasets, trl, PyTorch를 활용한 개발 환경 구성
- 네이버 뉴스 요약 데이터셋으로 프롬프트 생성, QLoRA 적용, SFTTrainer 학습, 병합 모델 추론까지의 흐름 정리
- Gemma IT 모델의 chat template 적용과 LoRA/QLoRA 개념 및 메모리 제약 대응 포인트 설명
적용해볼 점
- 한국어 요약 작업에 맞는 데이터셋 품질 점검과 선택 필요성
- Colab 환경에서는 메모리와 실행 시간 제약을 고려한 batch size, max_steps 조정 필요
- 학습된 LoRA weight를 병합해 단일 배포 모델로 만드는 방식 활용 가능