AI
Kanana-2 개발기 (1): Pre-training에서의 의사결정들을 중심으로
두줄요약
카카오의 차세대 언어모델 Kanana-2의 Pre-training 개발 과정을 의사결정 중심으로 정리한 글입니다. 시리즈의 첫 글로서 이후 post-training 개선 내용으로 이어집니다.
핵심 내용
- 카카오 자체 개발 차세대 언어모델 Kanana-2의 Pre-training 개발 과정과 의사결정 중심의 기술 공유
- Pre-training 단계에서의 연구개발 관점 정리와 다음 글로 이어지는 시리즈형 구성