AI
RAG의 발전과 효용성에 대한 소회
두줄요약
RAG는 LLM의 한계를 보완하며 실무에서 빠르게 활용할 수 있는 방식으로 정리했습니다. 다만 성능은 문서 추출과 임베딩, 커스터마이징 이해도에 크게 좌우된다고 보았습니다.
핵심 내용
- LLM 발전과 함께 RAG의 활용도와 효용성 증가
- Qdrant, llamaindex, Python 기반 조합의 빠른 구축 경험
- 문서 추출, 임베딩 모델, chunk 설계, 후처리 조합이 성능 좌우
선택 이유
- 작업 시간이 적고 얻는 이점이 큰 실무형 접근
- 검색 최적화와 업무 시간 단축에 유리한 방식
장단점
- 프레임워크 활용 시 개발 속도와 실험 효율 향상
- 내부 동작 이해와 커스터마이징에는 높은 난이도
- 최신 기술 반영 한계로 직접 구현 필요
적용해볼 점
- 문서 추출 품질과 임베딩 모델을 상황별로 최적화
- 중복 chunk 설계와 랭킹 재조정 방식 검토