목록 보기
원티드랩 데이터 마트 — 설립기
백엔드

원티드랩 데이터 마트 — 설립기

원티드
원티드
2023년 11월 28일

두줄요약

원티드랩의 데이터 마트 설계 과정을 ERD 작성부터 운영 규칙 정립까지 정리했습니다. BigQuery와 Airflow를 활용해 확장성과 품질을 높인 운영 방식도 소개했습니다.

핵심 내용

  • 원티드랩 데이터 마트 설계·구축 과정 정리
  • BigQuery 기반 뷰테이블 현황에서 출발해 ERD 작성, 우선순위 설정, 컬럼 설명 보완 진행
  • 확장성·독립성·품질을 기준으로 테이블 구조와 운영 규칙 수립

구조와 흐름

  • 원천 테이블과 뷰테이블 코드 분석으로 사용 빈도 높은 테이블·컬럼 파악
  • PK·FK, cardinality, 컬럼 타입을 기준으로 ERD 구성
  • 테이블 단위 분리, json·Python 활용한 컬럼 확장, 집계·출처·불리언 네이밍 규칙 정립

성능/운영 포인트

  • 뷰테이블 직접 조회로 인한 쿼리 비용 부담 해소
  • join이 많은 구조에서 실행 시간과 반복 실행 부담 완화
  • Airflow DAG 스케줄러와 Python 코드 베이스로 마트 생성·가공 자동화

적용해볼 점

  • 마트 설계 전 ERD와 데이터 관계도 먼저 정리
  • 데이터 사용 기준과 UTC, 네이밍 규칙 등 품질 규칙 사전 정의
  • 대시보드, 쿼리 추출, GPT 기반 슬랙봇 등 후속 활용을 고려한 운영 설계

댓글 0

댓글을 작성하려면 로그인이 필요합니다.

댓글을 불러오는 중...