AI
당근에서 LLM 활용하기
두줄요약
당근에서 LLM을 어떻게 활용하는지 서비스 사례와 운영 방법을 소개했습니다. 또한 프로덕션 적용을 위한 파이프라인, 모델 선택, 프롬프트 엔지니어링 원칙을 정리했습니다.
핵심 내용
- 당근에서 LLM을 자연어 처리, 질문 응답, 창작 보조에 활용하는 방식 정리
- 중고거래, 동네생활, 모임, 부동산 등에서 비정형 텍스트 추출과 추천, 자동 입력, 멀티모달 판단에 적용
- 프로덕션 적용을 위해 실시간 파이프라인, 모델 선택, 프롬프트 엔지니어링, 운영 체계의 중요성 강조
적용해볼 점
- 테스트셋 기반 반복 평가로 프롬프트 개선
- JSON 출력, CoT, 예시 제공, 작업 분할로 품질과 후처리 안정성 확보
- 변경 관리, 자동 평가, 가시성, A/B 테스트, 확장성 확보