AWS가 아마존 베드록 에이전트코어(AgentCore) 게이트웨이에 요청·토큰·연결 단위의 세밀한 속도 제한(rate limiting) 기능을 새로 지원한다고 발표했다. 이 기능은 OAuth 또는 IAM 기반 규칙으로 사용자별 분당 요청 수, 동시 연결 수, 토큰 처리량을 정의할 수 있게 해, 트래픽 급증 시에도 하위 서비스의 가용성을 지킬 수 있도록 돕는다. 대상은 MCP 서버, 추론 모델(LLM), 에이전트, HTTP 엔드포인트 등 게이트웨이가 라우팅하는 모든 트래픽 유형을 포괄하며, 타깃 이름·도구 이름·모델 ID·JWT 클레임 등 다양한 차원 키를 조합해 그룹별·사용자별·모델별 제한을 계층적으로 설정할 수 있다. 특히 에이전트가 하위 자원을 호출할 때는 사용자 위임 토큰인지 에이전트 자체 인증인지에 따라 제한 적용 방식이 달라지므로, 이를 구분해 설계해야 한다고 안내했다.

• •AWS 베드록 AgentCore 게이트웨이가 요청(RPS/RPM), 토큰(TPM), 연결(CPS) 단위의 세밀한 속도 제한 기능을 지원한다.
• •OAuth·IAM 기반 JWT 클레임, 타겟명, 모델 ID 등 다양한 차원 키를 조합해 그룹별·개인별 제한을 계층화할 수 있다.
• •고객 정의 제한이 먼저 평가되고 이후 서비스 관리 쿼타가 적용되며, 더 구체적인 규칙이 우선 적용된다.
• •에이전트가 사용자 위임 토큰으로 하위 자원을 호출하는지, 자체 인증(M2M)으로 호출하는지에 따라 제한 설계가 달라진다.
• •AgentCore 정책(RBAC)과 함께 사용해 트래픽 관리와 보안 권한을 이중으로 강화할 것을 권고했다.