AI
멀티턴에서 답변을 잘하는 Agent 만들기 - 쿼리 재작성(Query Rewriting)
두줄요약
멀티턴 RAG에서 맥락 손실로 생기는 검색 오류를 쿼리 재작성으로 줄이는 방법을 다뤘습니다. Step-Back, HyDE, Multi-Query와 적응형 라우팅으로 품질과 속도를 함께 조정했습니다.
문제 상황
- 멀티턴 대화에서 RAG 챗봇이 이전 맥락을 놓쳐 엉뚱한 문서를 검색하는 문제
- 질문이 생략형·모호형일수록 검색 정확도와 답변 품질 저하
원인 분석
- 검색 단계가 현재 질문만 보고 대화 맥락을 반영하지 못하는 구조
- 긴 대화에서 초기 정보가 소실되고 최근 질문에만 치우치는 편향
해결 방법
- 쿼리 재작성으로 현재 질문과 이전 대화를 합쳐 검색용 질문을 명확화
- Step-Back Prompting, HyDE, Multi-Query, RAG-Fusion 같은 기법 적용
- 라우터를 둔 적응형 RAG로 질문 복잡도에 따라 처리 전략 분기
성능/운영 포인트
- 응답 속도와 비용을 고려해 모든 쿼리에 고비용 기법을 일괄 적용하지 않기
- 경량 LLM을 라우터에 두고, top k와 정렬 기준을 조정해 부하 완화
- 운영 복잡도와 유지보수 부담을 줄이기 위한 단순한 시작과 점진적 확장