실시간 반응형 추천 개발 일지 2부: 벡터 검색, 그리고 숨겨진 요구사항과 기술 도입 의사 결정을 다루는 방법

핵심 내용

• 실시간 행동 이력과 임베딩을 활용한 실시간 반응형 추천 시스템의 개발 과정 정리
• 프로젝트 요구사항을 기술 문제로 환원하고, 벡터 유사도 검색 도입 의사결정 과정을 설명
• 배달 가능 위치 제약 때문에 pre filter와 ANN의 한계가 충돌하는 문제를 중심으로 논의
• 후보 기술군을 대상으로 기능 검증과 프로덕션 운영 관점의 실험을 진행

구조와 흐름

• 사용자의 현재 관심사와 배달 가능한 가게를 실시간으로 연결하는 추천 흐름 정의
• 실시간 행동 이력 스트리밍, 인코더 모델, 벡터 유사도 검색, 좌표 반경 검색의 역할 분리
• 런타임에만 알 수 있는 위치 정보를 반영해야 하는 서빙 구조 강조

선택 이유

• 관심사 임베딩과 가게 임베딩 간 유사도 계산을 위해 VSS가 필요하다는 판단
• 기존 도입 사례와 운영 경험이 부족해 OSS와 기존 플랫폼 중심으로 후보 검토
• 개발 가능성, 확장성, 운영 가능성, 비용을 함께 고려해 기술 후보 선정

트레이드오프

• ANN은 검색 성능이 좋지만 pre filter 조건과 결합 시 인덱스 활용이 어려움
• post filter는 결과 보장성이 떨어지고, pre filter는 runtime 위치 조건 때문에 적용 난점 존재
• fully-managed 서비스와 OSS 사이에서 비용 계약과 운영 주체 측면의 선택 필요

성능/운영 포인트

• 추천 조회 시점에 최대한 빠르게 후보를 찾고 정렬하는 서빙 지연 최소화
• 하이브리드 검색과 순수 벡터 검색을 나눠 실험하며 기능과 운영성을 검증
• 프로덕션 트래픽 대응을 전제로 플랫폼 구축 가능성 확인