생성과 검색의 하모니: RAG로 더 똑똑한 AI 만들기

핵심 내용

• RAG는 외부 문서를 검색해 LLM 생성에 반영하는 검색 강화 생성 방식
• 최신성 부족, 환각 현상, 도메인 전문성 한계를 보완하는 접근
• Retriever와 Generator의 분리된 역할로 사실 기반 답변 품질 향상

구조와 흐름

• 질문 입력 → 관련 문서 검색 → 검색 문서 기반 답변 생성의 2단계 흐름
• 임베딩, 벡터 검색, 유사도 기반 검색이 Retriever의 핵심 요소
• 검색된 문서를 참고해 Hallucination을 줄이고 답변 자연스러움 유지

선택 이유

• 모델 재학습 없이 외부 데이터로 지식 업데이트 가능
• 기업 내부 문서, 최신 정보, 민감한 데이터 반영에 유리
• OpenAI+VectorDB, Hugging Face, AWS Bedrock, Self-Hosted 등 환경별 선택지 존재

주의할 점

• 검색 품질이 낮으면 답변 품질도 함께 저하
• 검색+생성 구조로 인한 응답 지연 가능성
• 검색 문서의 진위 검증, 데이터 품질 관리, 보안과 개인정보 보호 필요

적용해볼 점

• PDF 문서와 벡터 DB를 연결한 간단한 RAG 실습 구성
• 문서 로딩, 청킹, 임베딩, 유사 문서 검색으로 기본 파이프라인 구현
• 실제 적용 시 Prompt 설계와 Latency 최적화까지 함께 고려