데브옵스
당근의 AWS 기반 피처 플랫폼 구축 여정, Part 2: 피처 수집
두줄요약
당근은 AWS 기반 피처 플랫폼의 수집 계층을 스트림과 배치로 나누어 구성했습니다. 대규모 이벤트와 배치 작업을 안정적으로 처리하며 운영상의 개선점도 함께 정리했습니다.
구조와 흐름
- 피처 플랫폼의 수집 계층을 스트림 수집과 배치 수집으로 구분
- 스트림 수집은 MSK, EKS Consumer, Dispatcher, Aggregator로 실시간 이벤트를 피처로 적재
- 배치 수집은 AWS Batch와 Fargate 기반 Scheduler로 크론잡과 backfill 작업을 수행
성능/운영 포인트
- manual-commit 전환과 retry 토픽 분리로 유실 대응과 at-least-once 강화
- 단일 파티션 내 병렬 처리 구현으로 처리 속도 저하와 지연 완화
- AWS Batch 분리 운영으로 대규모 작업과 프로덕션 서비스 영향 분리
주의할 점
- 스트림 수집과 복잡한 스트림 처리는 목적이 달라 별도 서비스가 더 적합
- 배치 수집은 DAG 미지원, 병렬 수 추정의 수동성, 모니터링 사용성 한계 존재