AI가 방금 짠 코드, 저희 서버에서 돌아갑니다
사용자와 AI가 만든 코드를 운영 서버에서 안전하게 실행하기 위해 별도 Kernel 계층을 설계했습니다. 기존 서비스와 실행 환경을 분리하고 인증정보와 세션 상태를 밖으로 빼는 방향을 정리했습니다.

사용자와 AI가 만든 코드를 운영 서버에서 안전하게 실행하기 위해 별도 Kernel 계층을 설계했습니다. 기존 서비스와 실행 환경을 분리하고 인증정보와 세션 상태를 밖으로 빼는 방향을 정리했습니다.
AI 전화 에이전트 도입을 위해 기존 전화 상담의 통계와 모니터링 기반을 먼저 다졌습니다. 고객사 인터뷰와 지표 정의 정리를 통해 실시간 운영과 사후 분석이 가능한 구조를 만들었습니다.
Grafana Mimir에 Kafka 기반 ingest-storage architecture를 도입한 경험과 운영상의 함정을 정리했습니다. partition과 ingester ordinal의 1:1 결합, backlog replay, scale-in 절차가 핵심 포인트였습니다.
로컬 DB를 화면의 기준으로 삼는 오프라인 퍼스트 구조와 사내 라이브러리 hearth의 설계 과정을 소개했습니다. 자체 서버와 재사용 조건에 맞춰 LWW, 낙관적 쓰기 보호, 동기화 재설계를 적용했고 다음 단계로 delta sync를 준비했습니다.
Istio Ambient mode 운영 중 만난 507 응답과 istiod disconnected 탐지 사례를 정리했습니다. Envoy buffer limit과 xDS 연결 상태를 어떻게 바라볼지 설명했습니다.
Istio Ambient mode 업그레이드를 istiod, istio-cni, ztunnel로 나눠 안전하게 진행하는 순서를 정리했습니다. 특히 ztunnel은 rolling update보다 node pool blue-green 방식이 더 안전하다고 설명했습니다.
DynamoDB managed GSI의 핫 파티션을 피하기 위해 인덱스 테이블 분리와 전파 파이프라인 구현 과정을 다뤘습니다. 운영 중에는 버스트 제어와 SQS 적체를 조정해 안정적으로 변경분을 반영했습니다.
Ambient mode에서 Pod은 Ready인데 mesh 트래픽이 실패하는 partially enrolled 문제를 다뤘습니다. istio-cni 준비 전에는 일반 Pod이 스케줄되지 않도록 startup taint와 untaint-controller를 활용했습니다.
Istio Ambient mode에서 워크로드 재시작 시 간헐적 503이 발생한 원인을 추적했습니다. 오래된 HBONE connection 재사용과 ztunnel의 graceful close 부재가 핵심이었고, reset retry로 증상을 완화했습니다.
Istio Ambient mode에서 Pod IP 재사용과 stale connection 재사용이 겹쳐 간헐적 503이 발생했습니다. 로그와 pcap, socket을 교차 검증하고 reset retry로 증상을 완화했습니다.
사내 AI 에이전트의 컨텍스트 비용과 안전성 문제를 줄이기 위해 v2 구조와 런타임 가드레일을 재설계했습니다. 파일, 채널, 스킬을 필요한 순간에만 제한적으로 읽도록 바꿨습니다.
사내 AI 에이전트 채널랩스를 OpenAI Agents SDK 기반으로 재설계하고, 컨텍스트 비용을 줄이는 구조를 정리했습니다. 파일·채널·스킬을 reference 중심으로 다루며 안전성과 예측 가능성을 높였습니다.
DynamoDB의 설계 철학과 내부 구조, 대규모 트래픽 대응 방식을 소개했습니다. 셀 기반 아키텍처와 AZ 운영, 커넥션 재사용 같은 실무 인사이트도 함께 정리했습니다.
AWS가 DynamoDB를 설계하고 운영하는 핵심 원칙과 내부 구조를 소개했습니다. 대규모 트래픽, 셀 기반 아키텍처, 배포·라우팅 최적화 사례를 함께 다뤘습니다.
AI ENGINEER NIGHT에서 나온 RAG, 에이전트, 평가 관련 질문에 채널톡 AI팀이 답변을 정리했습니다. 문서 구조 보존 청킹과 재탐색 전략, 데이터 게이트와 pass@k 평가 방식을 소개했습니다.
채널톡 AI팀의 AI ENGINEER NIGHT Q&A를 정리한 글입니다. RAG, 에이전트 설계, 데이터 평가와 운영 전략을 실무 관점에서 공유했습니다.
AI 태스크 QA를 자동화하기 위해 시나리오 생성, AI 사용자 대화, 평가, 개선 루프를 구성했습니다.외부 API 의존을 줄이고 이벤트 기반 처리와 캐싱을 적용해 반복 검증 비용과 수작업을 줄였습니다.
비결정적 AI 태스크를 자동으로 QA하는 에이전트 개발 과정을 소개했습니다. DFS 기반 시나리오 생성, AI 사용자 대화, 평가와 개선 루프까지 구현했습니다.
X
X