AI
API 연동 자동화를 위한 여정: 토스는 왜 사내 MCP 서버를 개발하였는가? with Spring-AI
두줄요약
사내 API 스펙 공유와 연동 자동화를 위해 MCP 서버를 개발한 사례를 소개했습니다. Spring-AI 기반 구현과 운영상 문제 해결, Swagger 자동화 방향까지 정리했습니다.
핵심 내용
- API 스펙 공유와 연동 과정의 반복적 번거로움을 줄이기 위해 사내 MCP 서버를 개발한 사례
- MCP를 통해 LLM에 Swagger 기반 컨텍스트를 제공하고, 자연어로 API 조회·분석·호출 로직 구현을 돕는 흐름 정리
- Spring-AI의 MCP 서버 지원, Stateless Streamable HTTP와 ASYNC 모드 선택, Tool·Prompt 기반 구현 방식 소개
- 토큰 초과, SSE 세션 끊김, Swagger 컴포넌트 충돌, ArgumentResolver 노출 문제를 해결한 과정과 Swagger 작성 자동화 방향 제시
적용해볼 점
- API 문서와 연동 정보를 LLM이 활용할 수 있도록 MCP로 표준화하는 접근 검토
- 대용량 스펙 제공 시 컨텍스트 압축, 프롬프트 설계, 문서 자동화의 필요성 확인
- 사내 도구 연동에서는 전송 방식과 상태 유지 전략을 먼저 점검할 필요