
백엔드
원티드랩 데이터 마트 — 설립기
두줄요약
원티드랩의 데이터 마트 설계 과정을 ERD 작성부터 운영 규칙 정립까지 정리했습니다. BigQuery와 Airflow를 활용해 확장성과 품질을 높인 운영 방식도 소개했습니다.
핵심 내용
- 원티드랩 데이터 마트 설계·구축 과정 정리
- BigQuery 기반 뷰테이블 현황에서 출발해 ERD 작성, 우선순위 설정, 컬럼 설명 보완 진행
- 확장성·독립성·품질을 기준으로 테이블 구조와 운영 규칙 수립
구조와 흐름
- 원천 테이블과 뷰테이블 코드 분석으로 사용 빈도 높은 테이블·컬럼 파악
- PK·FK, cardinality, 컬럼 타입을 기준으로 ERD 구성
- 테이블 단위 분리, json·Python 활용한 컬럼 확장, 집계·출처·불리언 네이밍 규칙 정립
성능/운영 포인트
- 뷰테이블 직접 조회로 인한 쿼리 비용 부담 해소
- join이 많은 구조에서 실행 시간과 반복 실행 부담 완화
- Airflow DAG 스케줄러와 Python 코드 베이스로 마트 생성·가공 자동화
적용해볼 점
- 마트 설계 전 ERD와 데이터 관계도 먼저 정리
- 데이터 사용 기준과 UTC, 네이밍 규칙 등 품질 규칙 사전 정의
- 대시보드, 쿼리 추출, GPT 기반 슬랙봇 등 후속 활용을 고려한 운영 설계
