
왓챠 추천 서비스 MLOps 적용기 Part2
왓챠는 추천 서비스의 Monolithic 추론 구조를 분리된 TorchServe 기반 서버로 개선했습니다. CPU 최적화와 모델 경량화, Datadog 모니터링으로 성능과 안정성을 함께 높였습니다.
#MLOps#TorchServe
12005분

왓챠는 추천 서비스의 Monolithic 추론 구조를 분리된 TorchServe 기반 서버로 개선했습니다. CPU 최적화와 모델 경량화, Datadog 모니터링으로 성능과 안정성을 함께 높였습니다.


Feature Flag 개념과 도입 사례를 소개했습니다. 대규모 트래픽 환경에서 안전한 배포와 빠른 롤백을 돕는 방법을 다뤘습니다.

웹에서 gRPC Stub과 Runtime을 생성하는 방법을 다뤘습니다. Buf와 Kubernetes를 활용한 구성 흐름을 중심으로 소개했습니다.

뱅크샐러드 코어 백엔드 팀의 Go 코딩 컨벤션을 소개한 글입니다.\nGo와 gRPC 기반 백엔드 개발에서 코드 일관성을 높이기 위한 기준을 정리했습니다.


성수기 트래픽과 일정 단축에 대응하기 위해 인증 구조 개선 프로젝트를 페이즈로 나누어 진행했습니다. 꼭 해야 할 일과 하면 좋은 일을 구분해 범위를 줄이고, 캐시와 데이터 최적화까지 이어갔습니다.


Scala를 게임 서버 개발에 적합한 언어로 보고, 타입 시스템과 함수형 프로그래밍으로 오류를 줄이는 방식을 소개했습니다. 또한 DSL, 매크로, ZIO, actor sharding으로 비즈니스 로직과 동시성 문제를 효과적으로 다루는 사례를 설명했습니다.