엔카닷컴

RAG 없이 20만 대 자동차와 실시간으로 대화하기 (2)

엔카 AI팀은 RAG 대신 내부 API를 활용하는 API 증강 생성 아키텍처를 통해 20만 대 차량의 실시간 정보를 정확하게 제공합니다. 병렬 처리와 캐싱 전략으로 0.5초 내 응답을 구현하며, Markdown 포맷으로 LLM과의 효율적 소통을 실현했습니다.

11월 17일

엔카닷컴은 AI Champion 대회를 통해 전 직원이 AI를 활용해 업무 효율을 높이고 혁신적인 도구를 개발하는 문화를 확산했습니다. 디자이너와 기획자가 팀과 개인 프로젝트에서 AI를 활용해 실질적인 문제를 해결하며 자신감을 얻었습니다.

11월 4일

엔카닷컴은 AI 모델 개발과 서비스 기획 분야 대학생 대상 공모전을 개최합니다. 상금과 채용 연계 인턴십 기회가 제공되며, Multi-Modal LLM 활용을 주제로 합니다.

11월 4일

엔카닷컴 AI팀은 기존 고정 추천질문 챗봇을 대화 맥락에 맞는 동적 추천질문 기능으로 성공적으로 개선했습니다. 개발 과정에서 SSE 통신 오류와 LLM 환각 문제 등 여러 난관을 극복하며 협업과 명확한 프롬프트 설계의 중요성을 배웠습니다.

11월 4일

엔카닷컴은 RAG의 실시간 대규모 정형 데이터 처리 한계를 발견하고, 모든 실시간 정보를 직접 LLM에 제공하는 새로운 아키텍처를 선택했습니다. 이를 통해 데이터 정확성, 실시간성, 비용 효율성을 동시에 달성하는 AI 챗봇 시스템을 구현하고자 합니다.

10월 2일

엔카닷컴은 방대한 중고차 데이터를 활용해 AI를 핵심 전략으로 도입하여 서비스 품질을 혁신하고 있습니다. 이 블로그에서는 AI 도입 과정에서의 시행착오와 배운 점들을 공유할 계획입니다.

끝