AI
문의 대응을 효율화하기 위한 RAG 기반 봇 도입하기
두줄요약
AWX 운영 문의를 줄이기 위해 RAG 기반 지원 봇을 도입한 사례를 소개했습니다. 사내 문서와 Slack 스레드를 벡터 검색해 1차 답변을 제공하고, 필요 시 관리자 호출로 넘기는 흐름을 구성했습니다.
핵심 내용
- AWX 운영 중 반복 문의를 줄이기 위해 RAG 기반 지원 봇 도입 사례를 소개
- Slack 봇 프레임워크, LangChain, 다국어 임베딩 모델, OpenSearch, OpenAI를 조합해 문의 1차 응답 흐름 구성
- 사내 위키 문서와 과거 Slack 스레드를 벡터화해 유사 문의를 우선 검색하고 LLM 답변에 활용
- 사용자가 답변 유효성을 평가하고, 해결 실패 시 관리자 호출로 이어지는 운영 흐름 설계
적용해볼 점
- 반복 문의가 많은 운영 채널에 자동 1차 응답 체계 적용
- 신뢰할 수 있는 문서와 성공 사례 스레드 우선 참조 구조 설계
- 인덱싱 대상 메시지를 이모지로 선별해 운영 부담을 줄이는 방식 검토