AWS가 AWS 오픈텔레메트리 배포판(ADOT)을 활용해 AWS 외부(온프레미스, GCP, 애저 등)에서 실행되는 AI 에이전트를 아마존 베드록 에이전트코어 옵저버빌리티 대시보드에서 모니터링하는 방법을 공개했다. ADOT 자동계측이 스트랜즈 에이전트 등 프레임워크를 계측해 생성형 AI 시맨틱 컨벤션 스팬을 클라우드워치 OTLP 엔드포인트로 SigV4 인증을 거쳐 전송하며, IAM 자격증명과 환경변수 설정만으로 비AWS 환경에서도 동일한 텔레메트리를 확보할 수 있다. 실제 구글 클라우드셸에서 실행한 스트랜즈 에이전트도 2~3분 내에 세션·트레이스·토큰 사용량이 대시보드에 표시되는 것을 검증했다. 이를 통해 어디서 실행되든 에이전트의 추론 과정과 도구 호출을 추적해 환각·유해 응답 탐지, 비용 거버넌스, 행동 감사가 가능해진다.

• •ADOT 자동계측으로 온프레미스·GCP·애저 등 비AWS 환경의 AI 에이전트도 에이전트코어 옥저버빌리티에서 모니터링 가능
• •IAM 자격증명과 OTEL 환경변수 설정만으로 구성, pip 설치와 몇 개 명령으로 완료
• •구글 클라우드셔에서 실행한 에이전트도 2~3분 내 세션·트레이스·토큰 사용량 대시보드 표시 검증
• •생성형 AI 시맨틱 컨벤션 기반으로 에이전트 추론·도구 호출·모델 응답 추적 가능
• •환각 탐지, 유해 응답 모니터링, 토큰 비용 거버넌스, 행동 감사에 활용 가능