AI
SSG.COM 사내 Agent 개발기
두줄요약
사내 Confluence 문서를 자연어로 찾는 LLM Agent 개발 과정을 소개했습니다. 검색 쿼리 생성, 요약, 캐싱, OCR 등 운영 최적화 포인트도 다뤘습니다.
핵심 내용
- 사내 Confluence 문서를 자연어로 검색하고, 담당자·사내 규정까지 찾아주는 LLM Agent 개발기
- 키워드 검색의 한계를 보완하기 위해 문서 검색, 요약, 적절성 평가, 대화 흐름을 결합한 워크플로우 구성
- CQL 생성, 문서 전처리, OCR, 캐싱, 응답 최적화 등 실제 운영을 위한 구현과 개선 포인트 정리
- 향후 Teams 연동과 워크플로우 기반에서 에이전트 기반으로의 확장 계획 소개
적용해볼 점
- 키워드 매칭이 약한 내부 문서 검색에 자연어 질의와 문맥 이해 도입 검토
- 검색 쿼리 생성과 결과 검증을 분리해 품질 개선
- 자주 바뀌지 않는 문서는 캐싱해 응답 속도와 운영 효율 개선