AI infra
AI-Ready Infrastructure를 물리 인프라, 데이터, 조직 준비도의 세 층위로 구분해 정리했습니다. 국내는 물리 인프라에 치우쳐 있어 GPU 운영 서비스화와 인력 전환이 차별화 포인트라고 제시했습니다.
Kubernetes 태그가 달린 국내 IT 기업 기술 블로그 글을 최신순으로 모았습니다.
20개 표시
AI-Ready Infrastructure를 물리 인프라, 데이터, 조직 준비도의 세 층위로 구분해 정리했습니다. 국내는 물리 인프라에 치우쳐 있어 GPU 운영 서비스화와 인력 전환이 차별화 포인트라고 제시했습니다.
AI 데이터센터와 클라우드 운영 전략을 다룬 뉴스레터였습니다. 전력, 냉각, 네트워크, 플랫폼 고도화와 사례를 폭넓게 소개했습니다.
사용자와 AI가 만든 코드를 운영 서버에서 안전하게 실행하기 위해 별도 Kernel 계층을 설계했습니다. 기존 서비스와 실행 환경을 분리하고 인증정보와 세션 상태를 밖으로 빼는 방향을 정리했습니다.
Grafana Mimir에 Kafka 기반 ingest-storage architecture를 도입한 경험과 운영상의 함정을 정리했습니다. partition과 ingester ordinal의 1:1 결합, backlog replay, scale-in 절차가 핵심 포인트였습니다.
Showcase가 자기 자신을 배포 대상으로 삼는 구조에서 발생하는 정합성 문제를 상태 머신과 이벤트 분할로 해결했습니다. 재기동 후 버전 검증과 멱등 발행, GID 기반 식별로 분산 배포의 일관성을 확보했습니다.

KubeEdge 엣지 노드에서 자주 발생하는 3가지 장애와 대응 방법을 정리했습니다. EdgeStream, 디스크 사용량, DNS 상태를 먼저 확인하는 흐름을 제시했습니다.

EKS 비용 최적화를 위해 AWS Graviton 도입 방법을 정리했습니다. 멀티 아키텍처 이미지를 준비한 뒤 카나리로 점진 전환하는 흐름을 소개했습니다.
공공 클라우드를 위한 kt cloud PLATFORM의 운영 구조와 주요 장점을 소개했습니다. 멀티 리전, 보안 체계, AI 인프라 확장성을 통해 안정성과 확장성을 함께 강조했습니다.
인프라 접근 권한을 코드로 관리하는 Access as Code 개념과 판단 기준을 정리했습니다. Teleport로 SSH, Kubernetes, DB, 앱 권한을 하나의 role과 Git 흐름으로 운영하는 방법을 설명했습니다.

쿠버네티스 전환으로 커진 VictoriaMetrics 리소스 문제를 조회·저장·수집 세 레이어로 나눠 최적화했습니다. 쿼리 분할, 보관 기간 축소, 수집 대상 축소로 장비 증설 없이 안정화했습니다.
물리 서버 환경에서 Cluster API와 BYOH Provider로 In-place Upgrade를 구현하고 검증했습니다. Rolling Upgrade와 병행해 인프라 제약에 맞는 업그레이드 전략을 확보했습니다.
LGU+의 대규모 AWS 마이그레이션에서 Kiro와 Harness Engineering으로 전환 작업을 표준화했습니다. 설정 자동화와 지식 자산화를 통해 개발자 편차를 줄이고 재사용성을 높였습니다.

EKS 11개 클러스터를 서비스 중단 없이 v1.35로 통일한 업그레이드 사례입니다. AI 에이전트를 오퍼레이터로 써 8일 만에 PR 109건을 처리하고 안전하게 전환했습니다.

EKS 11개 클러스터를 단계적 절차와 안전판으로 8일 만에 v1.35로 통일했습니다. AI 에이전트와 사람의 승인 분리를 통해 서비스 중단 없이 업그레이드를 마쳤습니다.

kt cloud가 OpenStack 내재화를 위해 Zuul.CI 기반 Gating System을 구축했습니다. Upstream Job을 참조·상속해 회귀 검증을 자동화하고 최신 기준을 유지했습니다.
Kubernetes에서 메모리 사용률이 99%까지 오르던 원인을 heap 누수로 의심했지만, JVM committed heap과 로그 파일 page cache가 핵심 원인이었습니다. JVM 옵션 조정과 FILE Appender 제거로 사용률을 크게 낮추고 안정화했습니다.
Istio Ambient mode 운영 중 만난 507 응답과 istiod disconnected 탐지 사례를 정리했습니다. Envoy buffer limit과 xDS 연결 상태를 어떻게 바라볼지 설명했습니다.
Ceph 기반 스토리지 내재화로 상용 스토리지 의존과 비용 부담을 줄이는 방향을 정리했습니다. 또한 CRUSH, Self-Healing, 테스트 자동화로 운영 안정성과 확장성을 확보하는 방안을 다뤘습니다.
Kubernetes Pod의 OOMKilled 원인을 Memory Limit만으로 보지 않고 JVM Heap 설정까지 함께 점검했습니다. MaxRAMPercentage를 낮추자 Full GC가 정상 동작하며 재시작 문제가 해소됐습니다.

여섯 축의 공통 원리를 하나의 표로 정리하며 인프라를 소프트웨어처럼 다루는 관점을 설명했습니다. 사람과 AI 에이전트가 안전하게 변경하고 되돌릴 수 있는 피드백 루프의 중요성을 강조했습니다.
![[인프라를 소프트웨어처럼 5/5] 다섯 축의 운영 총합, 그리고 AI 시대의 플랫폼팀](https://static.flex.team/v2/landing-2024/og/main.jpg)