AI
RAG와 리랭커(Reranker): 검색 모델과 LLM의 상호작용
두줄요약
RAG에서 리랭커가 필요한 이유와 역할을 설명했습니다. 기존 방식과 LLM 기반 리랭킹, 적용 시 한계와 보완 방법도 함께 정리했습니다.
핵심 내용
- RAG에서 벡터 검색만으로는 질문 의도와 맥락을 충분히 반영하기 어려워 리랭커가 필요
- 리랭커는 후보 문서를 질문과의 관련성에 따라 재정렬해 LLM 입력 상단에 배치
- 기존 Cross-Encoder와 Bi-Encoder 방식의 차이, 그리고 LLM을 활용한 Pointwise·Listwise 리랭킹 방식 소개
- Listwise의 토큰 길이 제한은 슬라이딩 윈도우로 보완 가능