우리는 달에 가기로 했습니다. - Hybrid인프라부터 네트워크 최적화까지, 무신사 AI Infra구축기
무신사의 AI 인프라 구축과 하이브리드 운영 경험을 정리한 글입니다. 온프레미스 GPU와 AWS를 결합해 비용과 성능을 최적화하는 과정과 시행착오를 공유했습니다.
#AWS#Kubernetes
24005분
필터 1
우리는 달에 가기로 했습니다. - Hybrid인프라부터 네트워크 최적화까지, 무신사 AI Infra구축기
AI 인프라를 하이브리드 구조로 재설계해 비용과 운영 리스크를 줄인 사례를 다뤘습니다. Cilium, NLB, OpenTelemetry, Gateway API로 지연과 확장성을 함께 최적화했습니다.
#AWS#Kubernetes
70005분
처음 만나는 OpenTelemetry (feat. Collector)
OpenTelemetry와 Collector의 기본 개념, 생태계 구성요소를 정리한 발표 세션을 공유했습니다. SEER 전환 준비와 OpenTelemetry 기여 경험도 함께 소개했습니다.
#OpenTelemetry#Collector
163005분
오픈소스 Arize Phoenix 를 활용한 멀티 에이전트 AI시스템 쉽고 빠르게 모니터링하기
Arize Phoenix로 Bedrock 멀티 에이전트의 실행 경로를 통합 추적하고 평가하는 방법을 소개했습니다. 지연시간, 토큰, 비용, MCP 동작까지 함께 관측해 디버깅과 최적화를 돕습니다.
#Arize Phoenix#MCP
46005분
표준을 통한 마이크로 서비스의 Observability 구축기
Kubernetes 기반 마이크로서비스의 가시성을 확보하기 위해 OpenTelemetry와 SigNoz를 활용한 Observability 구축 과정을 정리했습니다. Collector 파이프라인과 Auto-Instrumentation, 운영 효율 개선 포인트를 함께 소개했습니다.
#Kubernetes#OpenTelemetry
44005분
Strands Agents와 오픈 소스 AI 에이전트 SDK 살펴보기
Strands Agents는 모델 중심 접근 방식으로 AI 에이전트를 간단하게 구축하고 배포할 수 있는 오픈 소스 SDK를 소개했습니다.\n프롬프트와 도구만 정의해 로컬 개발부터 프로덕션 관찰성까지 지원하는 점을 강조했습니다.
#LLM#MCP
39005분
CI/CD 옵저버빌리티 도입 전략 가이드
CI/CD 옵저버빌리티는 파이프라인 전 과정을 관찰해 병목과 장애 지점을 찾는 접근입니다.\n조직 목표에 맞는 메트릭을 선정하고 모니터링과 알림을 자동화하는 것이 중요합니다.
#CI/CD#Observability
15005분
Velopers 추천광고
쿠팡 파트너스
개발자를 위한 인기 상품을 확인해 보세요
이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
#개발자#노트북#컴퓨터
CI/CD 옵저버빌리티 도입 전략 가이드
CI/CD 옵저버빌리티의 개념과 필요성, 구현 방식, 모범 관행을 정리했습니다. 조직 목표에 맞는 메트릭을 정하고 파이프라인 가시성을 높이는 방법을 다뤘습니다.
#CI/CD#OpenTelemetry
55005분
Prometheus 3.0으로 갈아타기 (feat. prometehus 3.0 업그레이드 가이드)
Prometheus 3.0의 주요 기능 개선과 변경 사항, 마이그레이션 시 주의점을 정리했습니다. 업그레이드 전 쿼리와 설정을 점검할 체크리스트도 함께 제시했습니다.
#Prometheus#OpenTelemetry
19005분
생성형 AI 기반 실시간 검색 결과 재순위화 2편 - LLM 서빙
대규모 검색 재순위화를 위해 LLM 서빙 프레임워크와 최적화 방법을 비교하고, TRT-LLM과 Triton 조합을 채택했습니다. 양자화, 배치 조절, OpenTelemetry와 대시보드로 성능과 운영 가시성을 함께 확보했습니다.
#LLM#gRPC
21005분
생성형 AI 기반 실시간 검색 결과 재순위화 1편 - 서빙 시스템 아키텍처
네이버 통합검색의 LLM 기반 실시간 재순위화 서빙 아키텍처와 고부하 대응 방법을 정리했습니다. 원격 캐시, 비동기 호출, 스로틀링으로 검색 서버 보호와 응답 시간 최적화를 다뤘습니다.
#LLM#검색
26005분
Tracing NodeJs Applications with OpenTelemetry
Node.js 애플리케이션에 OpenTelemetry를 붙여 Grafana Tempo로 트레이스를 수집하는 방법을 소개했습니다. 자동 계측과 수동 span, 분산 추적 활용 가능성도 함께 설명했습니다.
#node.js#TypeScript
18005분