AI
에이닷 뮤직 에이전트 Multi Prompt Fine-tuning 도전기 (feat. gpt-4o-mini)
두줄요약
에이닷 뮤직 에이전트에 Multi Prompt Fine-tuning을 적용하며 겪은 시행착오와 개선 과정을 공유했습니다. gpt-4o-mini 전환으로 한글 깨짐과 품질 문제가 크게 완화된 사례였습니다.
핵심 내용
- 에이닷 뮤직 에이전트의 프롬프트 품질과 운영 비용 개선을 위해 Multi Prompt Fine-tuning을 적용한 사례
- gpt-3.5-turbo 기반 통합 학습에서 유니코드 오류, 한글 깨짐, 프롬프트 간 간섭 같은 시행착오를 겪음
- batch 구성 변경, Few-shot 교정 예시 추가로 문제를 완화했고, gpt-4o-mini 전환 후 RAG, JSON 추출, 한국어 생성 품질이 더 좋아짐
적용해볼 점
- 다수 프롬프트를 하나의 모델로 통합할 때 데이터 배치 방식과 출력 형식 충돌을 점검할 필요
- 한국어 생성 품질이 중요한 경우 맞춤법 교정용 예시와 보정 프롬프트를 함께 설계할 필요
- 최신 모델 전환이 품질과 안정성에 큰 영향을 줄 수 있으므로 대체 모델 검증을 병행할 필요