
Ray를 활용한 GPU Util 100% MLOps: 배치처리부터 모델 서빙까지
Ray를 활용해 GPU Util 100% 배치 처리와 확장 가능한 모델 서빙 아키텍처를 소개했습니다. Ray Serve와 vLLM 기반 LLM 추론 파이프라인 및 운영 사례도 다뤘습니다.

Ray를 활용해 GPU Util 100% 배치 처리와 확장 가능한 모델 서빙 아키텍처를 소개했습니다. Ray Serve와 vLLM 기반 LLM 추론 파이프라인 및 운영 사례도 다뤘습니다.


IaC로 정의한 Kubernetes 클러스터를 Mermaid Chart로 시각화하는 방법을 소개했습니다. LLM을 활용해 다이어그램 코드를 만들고 편집·공유하는 흐름도 함께 다뤘습니다.

Cursor와 MCP로 유저챗 대응과 PR 리뷰를 자동화해 반복 업무 시간을 크게 줄인 사례를 소개했습니다. 업무 절차를 문서화하고 파이프라인화해 AI가 분석과 리뷰를 돕도록 구성했습니다.

토스뱅크 인턴들이 변수명 추천 플러그인과 민감정보 마스킹 플러그인을 만든 경험을 소개했습니다.\nDRI 문화와 수평적 협업 속에서 문제를 정의하고 해결하며 성장한 과정을 정리했습니다.


Amazon Bedrock과 MCP로 기업 AI 에이전트가 공통 도구를 표준화해 쓰는 중앙 허브 구조를 소개했습니다. 분산 개발과 중앙 거버넌스를 결합해 확장성, 보안, 운영 효율을 높이는 방식입니다.

사내 노션과 슬랙 지식을 연결하는 RAG 기반 챗봇 라포위키 개발 과정을 소개했습니다. 내부 용어집, 메타데이터, 청크 임베딩으로 검색 정확도와 최신성을 높였습니다.


Amazon Bedrock과 AWS 서비스 조합으로 Rufus 같은 쇼핑 어시스턴트를 구현하는 방법을 소개했습니다. Tool 최적화, 컨텍스트 사전 로딩, prompt caching으로 응답 속도를 줄이는 방식을 설명했습니다.


AI 코딩 어시스턴트의 시장 동향과 국내외 도입 사례, 모델·솔루션 비교를 한 번에 정리했습니다.파일럿 검증을 거쳐 성능, 보안, 비용을 함께 고려한 점진적 도입 전략을 제안했습니다.
쿠팡 파트너스
이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.


OpenSearch Service의 AI Search Flow 빌더로 Semantic 검색과 멀티모달 RAG를 빠르게 구성하는 방법을 소개했습니다. Ingest/Search Pipeline과 템플릿, AI 제공업체 연동으로 미들웨어 없이 검색 기능을 확장하는 흐름을 설명했습니다.


Computer Use Agent의 개념과 활용 배경을 소개하고, AgentQ 논문과 구현을 직접 실행해보는 과정을 정리했습니다. MCTS와 DPO를 결합한 정책 학습 구조와 실습 절차도 함께 설명했습니다.


미저장 연락처의 관계를 예측하는 AI 기능 고도화 과정을 소개했습니다. 데이터 정제와 LLM 학습으로 정확도를 13% 이상 높였습니다.


AI 코딩 에이전트 5종의 실제 사용 경험을 바탕으로 강점과 한계를 비교했습니다. 반복 작업은 AI에 맡기고 개발자는 더 창의적인 업무에 집중하는 방향을 제안했습니다.