
생성형 AI 기반 실시간 검색 결과 재순위화 2편 - LLM 서빙
대규모 검색 재순위화를 위해 LLM 서빙 프레임워크와 최적화 방법을 비교하고, TRT-LLM과 Triton 조합을 채택했습니다. 양자화, 배치 조절, OpenTelemetry와 대시보드로 성능과 운영 가시성을 함께 확보했습니다.

대규모 검색 재순위화를 위해 LLM 서빙 프레임워크와 최적화 방법을 비교하고, TRT-LLM과 Triton 조합을 채택했습니다. 양자화, 배치 조절, OpenTelemetry와 대시보드로 성능과 운영 가시성을 함께 확보했습니다.


웹 기반 게임 Admin의 gRPC 통신에서 FE와 BE용 API 중복 구현 문제를 Proxy로 해결한 사례를 소개했습니다. 코드 생성 결과를 JSON 메타데이터로 바꿔 부팅 부담도 줄였습니다.

당근의 회원·인증 시스템을 MSA로 분리한 과정을 소개했습니다. 레거시 분석, 신규 DB 재설계, Dual-Write와 Rollout으로 무중단 전환을 진행했습니다.


gRPC는 마이크로서비스 환경에서 효율적인 서비스 간 통신을 위한 기술로 소개됩니다. MSA 도입이 늘면서 왜 gRPC가 주목받는지 개념과 강점을 살펴보는 글입니다.

계층형과 육각형 아키텍처를 실제 서비스 사례로 비교하며 적용 기준을 설명했습니다. 도메인 변화와 외부 의존성이 큰 환경에서는 육각형 아키텍처가 유리하다고 정리했습니다.

Endpoint API와 Recommend API 간 호출 지연을 줄이기 위해 gRPC를 도입하고, DTO와 gRPC message 매핑을 MapStruct로 단순화했습니다. Spring Boot 환경에서 proto와 Mapper를 구성해 반복 변환 코드를 줄이는 방법을 소개했습니다.
쿠팡 파트너스
이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.

실시간 광고 사용자 ID 매핑 시스템의 설계와 처리 흐름을 소개했습니다. Kafka, Spark, gRPC, ZooKeeper와 트리 기반 매핑 알고리즘으로 확장성과 유연성을 확보한 사례입니다.
Java와 Spring Boot로 쿠버네티스 오퍼레이터를 구현하는 과정을 정리했습니다. CRD, Reconciler, Dependent Resource 구성과 로컬 클러스터 테스트, 배포 방법까지 살펴봤습니다.
쿠버네티스 오퍼레이터를 Java와 Spring Boot, Java Operator SDK로 구현하는 과정을 정리한 글입니다. CRD, Dependent Resource, Reconciler 구성과 예시 코드를 통해 기본 흐름을 설명했습니다.

실시간 광고 사용자 ID 매핑 시스템과 그 설계 과정을 다룬 발표 세션을 공개했습니다. gRPC, Spark Structured Streaming, Kafka를 활용한 마이크로서비스 구성과 그래프 기반 매핑 방식을 소개했습니다.

MessagingHub 확장으로 늘어난 질문과 커뮤니케이션 비용을 줄이기 위해 서버 SDK와 문서를 정비했습니다.\n연동 허들을 낮추고 질문을 코드와 가이드 중심으로 바꿔 실무 몰입도를 높였습니다.

로케이션 코어팀이 Go와 Fx 기반 공유 라이브러리로 공통 컴포넌트를 모듈화한 방식을 소개했습니다. 반복 작업을 줄이고 비즈니스 로직에 집중할 수 있었지만, 라이브러리 검증과 확장 대응은 계속 필요했습니다.