AWS가 세이지메이커 AI에 배포한 자체 모델과 베드록 에이전트코어를 결합해 멀티 에이전트 워크플로를 구축하는 방법을 공개했다. 오케스트레이터(클로드 하이쿠 4.5)가 사용자 의도를 분류해 예산 에이전트(클로드 소네트 4.6)나 금융분석 에이전트(세이지메이커에 배포한 Qwen 3.5 9B)로 작업을 라우팅하는 구조로, 스트랜즈 에이전트의 '에이전트를 도구로' 패턴을 사용했다. 베드록 호출은 자동으로 토큰 단위 관측이 되지만 세이지메이커의 OpenAI 호환 엔드포인트는 기본적으로 토큰 사용량이 추적되지 않아, gen_ai.chat 커스텀 오픈텔레메트리 스팬과 vLLM의 stream_options 설정을 직접 추가해야 한다는 점을 핵심 노하우로 제시했다. 이를 통해 비용 최적화, 데이터 주권, 모델 유연성을 하나의 프로덕션 아키텍처에서 확보할 수 있다.

• •오케스트레이터(클로드 하이쿠 4.5)가 예산·금융분석 에이전트로 요청 라우팅하는 3자 구조, 금융분석은 세이지메이커에 배포된 Qwen 3.5 9B 활용
• •베득록 호출은 토큰 관측이 자동이지만 세이지메이커 OpenAI 호환 엔드포인트는 기본적으로 토큰 토원믶티가 없음
• •gen_ai.chat 커스텀 오플텔레메트리 스팹과 vLLM stream_options: include_usage 설정을 추가해야 토큰 사용량이 보임
• •비용 최적화·데이터 주권·모델 유연성을 하나의 프로덕션 아키텍처로 확보하는 것이 핵심 목표