🚀 1,180개 노드 그룹(EKS 기반)을 지우고 '초 단위' 스케일링(karpenter)을 얻다: Salesforce의 인프라 혁신

[cloudbro-radar]

Salesforce가 기존 Cluster Autoscaler를 버리고 Karpenter로 전격 교체하며 1,000개 이상의 EKS 클러스터를 현대화했습니다. 결과는 놀랍습니다.

운영 업무 80% 감소, 스케일링 지연 시간은 '분’에서 ‘초’ 단위로 단축되었습니다. 단순한 도구 교체가 아닌 ‘자동화된 운영 모델’로의 완벽한 전환입니다.

• 1,000개 이상의 EKS 클러스터를 관리하는 초거대 환경에서 운영 오버헤드 80% 절감 스케일링 속도 혁신 (분 단위 → 초 단위)

단순히 도구(Karpenter)를 바꾼 것이 아니라, 1,180개 이상의 정적 노드 구성을 자동화된 코드 기반의 동적 프로비저닝으로 전환하며 ‘셀프 서비스’ 인프라 시대를 열었다는 점 에서 큰 의미가 있습니다.

많은 기업이 쿠버네티스를 쓰면서도 정적 노드 그룹 관리 때문에 머리를 싸맵니다. Salesforce 역시 1,000개가 넘는 클러스터와 수천 개의 노드 그룹을 수동에 가깝게 관리하며 병목 현상을 겪었습니다. 그들이 이번 Migration을 통해 증명한 3가지 핵심 가치는 다음과 같습니다.

1. 극강의 운영 효율 (Operational Excellence)

   • 1,180개의 다양한 노드 구성을 Karpenter 정의로 자동 변환했습니다.
     • 클라우드브로 커뮤니티내의 연관된 추가 정보
       • Karpenter 오픈소스 기술에 대한 빠른 도입 증가 추세 vs. 장애 처리 안내
       • Karpenter & keda 문의 - 행사 현장 질문
       • Karpenter냐? Cluster Autoscaler냐? - 기능 비교
       • 그 외 다수 정보 …
   • 중앙 플랫폼 팀의 개입 없이 개발자가 직접 노드 구성을 선언하는 '셀프 서비스’가 가능해졌습니다.
   • 결과적으로 인프라 운영 오버헤드가 80%나 사라졌습니다.

2. 비즈니스 민첩성 (Business Agility)

   • 기존에는 새로운 노드가 뜨는 데 수 분이 걸렸지만, 이제는 단 몇 초면 충분합니다.
   • 갑작스러운 트래픽 급증에도 인프라가 실시간으로 반응하며 사용자 경험을 보호합니다.

3. 스마트한 비용 최적화 (FinOps)

   • 단순히 노드를 띄우는 게 아니라, 워크로드에 가장 적합한 인스턴스를 실시간으로 선택(Bin-packing)합니다.
   • FY2026 기준 5%의 비용 절감을 달성했으며, 향후 Spot 인스턴스 활용 확대를 통해 추가 10% 절감을 예고했습니다.

규모가 커질수록 자동화는 선택이 아닌 생존입니다." Salesforce의 사례는 대규모 엔터프라이즈 환경에서도 중단 없는 현대화가 가능하다는 것을 보여주는 완벽한 블루프린트입니다.

[출처] Salesforce Migrates 1,000+ EKS Clusters to Karpenter to Improve Scaling Speed and Efficiency - InfoQ

| This is a space where knowledge is not merely consumed, but respected, sovereign, and connected—shared together with cloud industry professionals (Bros).|
| 지식이 소비되지 않고 존중·주권보장·연결되는 공간으로 클라우드 현업 전문가(Bro)와 함께 공유하고 있습니다. |