Intel은 수천 건의 에이전틱 AI 워크로드 실험 끝에, 기업용 에이전트는 추론 성능이 아니라 오케스트레이션·데이터 접근·도구 실행·거버넌스를 아우르는 시스템 문제라는 결론을 내놨다. 용량 설계는 에이전트 개수가 아니라 vCPU당 에이전트 수인 '밀도'로 해야 하며, 8 vCPU에 10개와 16 vCPU에 20개는 동일하게 거동한다. 에이전트는 모델 응답 대기와 짧은 연산 폭주를 반복하므로 평균 CPU 사용률은 신호가 약하고, P95 작업 지연을 1차 경보 지표로 삼아야 한다. 확장은 스케일아웃을 기본으로 하고 무거운 병렬 연산이나 공유 상태·라이선스 제약이 있을 때만 스케일업을 권한다. 평가 지표도 작업 성공률, 건당 비용·시간, 처리량, 에이전트 밀도, 지연 등 6개로 넓혀야 한다는 제안이다.

• •Intel은 오픈소스 Terminal-Bench에 프로파일링·텔레메트리·리플레이를 더하고 LLM 응답을 기록-재생해 모델 변동성과 에이전트 성능을 분리했다.
• •용량 계획의 핵심 지표는 에이전트 수가 아닌 vCPU당 밀도이며, 대화형 코파일럿은 낮은 밀도, 배치 워크플로는 높은 밀도가 적합하다.
• •평균 CPU 사용률 대신 P95 작업 지연을 먼저 경보해야 버스티한 에이전트 부하의 대기열 형성을 조기에 포착할 수 있다.
• •기본은 스케일아웃이며, 무거운 병렬 연산·공유 상태·메모리 지역성·라이선스 제약이 있을 때만 스케일업한다.
• •코드 생성, 회귀 테스트, 티켓 분류, 시장 분석, 보안 검토처럼 규칙과 서비스 수준이 이미 정의된 워크플로에서 성과가 먼저 나오고 있다.