데브옵스
당신의 CPU는 열심히 일하고 있나요?
두줄요약
쿠버네티스의 CPU 요청량, 상한, CFS 스로틀링 관계를 설명하고 상한 제거가 성능에 미치는 영향을 테스트 결과로 정리했습니다. Spring 싱글 테넌시는 상한 제거가 유효했고, Node.js 멀티 테넌시는 일관성 때문에 유지가 적절했습니다.
핵심 내용
- 쿠버네티스의 CPU 요청량과 CPU 상한, CFS 기반 스케줄링 관계 정리
- CPU 상한이 cfs_quota_us로 변환돼 스로틀링을 유발할 수 있는 구조 설명
- 상한 제거 시 CPU 사용량과 성능 개선 가능성, 다만 구조와 운영 방식에 따른 판단 필요
성능/운영 포인트
- Spring 싱글 테넌시 환경에서는 CPU 상한 제거로 TPS와 CPU 사용량이 유의미하게 증가
- Node.js 멀티 테넌시 환경에서는 성능 향상 폭이 제한적이며 일관성 고려 필요
- 노드 여유 자원, 다른 파드와의 공유, 설정 일관성까지 함께 검토 필요
적용해볼 점
- CPU 상한 유지 여부를 일괄 적용하지 말고 서비스 구조별로 분리 검토
- 스로틀링 지표와 TPS, 응답 시간, CPU 사용량을 함께 확인
- 싱글 테넌시와 멀티 테넌시 환경을 구분해 테스트 후 결정