세일즈포스가 아마존 세이지메이커 AI 추론 컴포넌트(IC)로 8배 인프라 비용을 절감했지만 기본 배치 방식이 다중 가용영역(Multi-AZ) 고가용성(HA) 요건을 충족하지 못하는 문제에 직면했다. AWS는 이를 해결하기 위해 SchedulingConfig 파라미터를 도입해 AZ 간 균형 배치(AvailabilityZoneBalance)와 AZ 내 배치 전략(SPREAD/BINPACK)을 세밀하게 제어할 수 있게 했다. 세일즈포스는 SPREAD 전략과 AZ 균형 옵션을 적용해 모든 프로덕션 모델에 대해 2개 AZ 지원 요건을 충족했으며, 단일 인스턴스나 AZ 장애로 모델이 완전히 중단되는 위험을 제거했다. 이를 위해 온디맨드 용량 예약(ODCR)으로 각 AZ에 GPU 용량을 사전 확보하는 것이 권장되며, 세이지메이커 AI 인사이트를 통해 AZ 편차와 재배치 이벤트 등을 지속 모니터링할 수 있다.

• •세일즈포스, 세이지메이커 IC로 GPU 비용 8배 절감했으나 기본 배치는 Multi-AZ HA 미충족
• •AWS 신규 SchedulingConfig로 AZ 간 균형 배치와 SPREAD/BINPACK 배치전략 제어 가능
• •세일즈포스는 SPREAD+AZ 균형 적용해 전 프로덕션 모델의 2-AZ 준수 요건 달성
• •CopyCount 2 이상·인스턴스 2대 이상을 HA 최소 기준으로 권장, 1개는 절대 금지
• •ODCR로 AZ별 용량 사전 확보 권장, 세이지메이커 AI 인사이트로 AZ 편차 지속 모니터링