AI
쉽게이해하는 GPT. 2편(어떻게 GPT는 Chat을 하는가, instruct모델)
두줄요약
GPT는 기본적으로 다음 단어를 예측하는 모델이라 대화가 어렵습니다. instruction tuning으로 질문-답변 형식을 학습해 ChatGPT 같은 대화형 모델로 확장했습니다.
핵심 내용
- GPT의 기본 동작인 다음 단어 예측만으로는 대화가 어려운 한계
- instruction tuning을 통해 질문-답변 형식의 데이터로 대화 능력 추가 학습
- ChatGPT와 Alpaca 사례를 통해 특수 토큰과 프롬프트 형식의 입력 구조 설명
적용해볼 점
- base 모델과 instruct 모델의 차이 이해
- 시스템/사용자/응답 형태의 데이터 구성으로 대화형 LLM 학습 방식 파악