AICX: AI로 5초 만에 항공권 환불 수수료 계산하기

문제 상황

• 항공권 환불 규정이 자연어로 흩어져 있어 수수료 계산이 복잡한 구조
• 상담사 수동 검토로 인한 평균 2분 소요와 반복 문의 누적
• 챗봇·콜봇 환경에서 긴 응답 지연이 고객 경험 단절로 이어지는 문제

원인 분석

• LLM 단독 처리 시 날짜 비교, 수수료 합산 같은 정밀 계산 오류 발생
• 모든 예약 정보를 한꺼번에 넣는 방식의 토큰·비용 비효율
• 비동기 처리 자체는 안정적이지만 실시간 대화 맥락과 충돌

해결 방법

• LLM은 규정 파싱과 구조화, Python 서버는 날짜 계산과 최종 산출로 역할 분리
• Redis·Celery 기반 비동기 구조를 거쳐, 최종적으로 입력 최소화와 동기 응답 재설계
• 모델·하이퍼파라미터 조합 실험으로 정확도·속도·비용 균형점 탐색

성능/운영 포인트

• 응답 시간 25초에서 12초, 최종 5초 이내로 단축
• 상담 처리 시간 평균 2분에서 5초 이내로 감소
• 동일 항공사·운임 조합 캐싱과 규정 파싱 자동화로 추가 개선 여지 확보