AI
LLM 기반 내비게이션 에이전트 개발기: 에이닷과 함께 진화하는 대화형 모빌리티 AI
두줄요약
SK텔레콤이 에이닷과 티맵을 결합해 LLM 기반 대화형 내비게이션 에이전트를 개발했습니다. 규칙 기반 한계를 보완하기 위해 하이브리드 모델, 캐싱, 검증 로직을 적용했습니다.
핵심 내용
- SK텔레콤이 에이닷과 티맵을 결합해 LLM 기반 대화형 내비게이션 에이전트를 개발한 사례
- 규칙 기반 NLU의 한계를 복합 의도, 맥락 의존 발화, 음성 인식 오류, 테마성 검색으로 정리
- 이해 → 추론 → 실행 흐름으로 의도 분석, 기능 분류, 파라미터 추출, POI 보정, 응답 생성 구성
- 정확도·속도·비용 균형을 위해 하이브리드 모델 전략, 프롬프트 최적화, 캐싱, 할루시네이션 검증 적용
적용해볼 점
- 멀티턴 대화와 맥락 처리를 위한 히스토리 관리와 컨텍스트 최적화 고려
- 실시간 서비스에서는 LLM 단독보다 규칙 엔진과 검증 로직을 결합한 구조 검토
- 모델 교체와 프롬프트 개선을 지속적으로 반복하는 운영 관점 필요