Intel TDX 기밀 인스턴스의 NVIDIA H100 80GB GPU에서 기밀 컴퓨팅 모드와 일반 모드의 LLM 추론 성능을 비교한 벤치마크 연구다. Mistral-7B v0.1과 Qwen3-30B-A3B를 대상으로 고정 요청률 실험에서 기밀 모드는 첫 토큰 지연(TTFT)을 각각 21.8%·27.8% 늘렸고, 전역 토큰 처리량은 17.7%·21.1% 감소시켰다. 폐루프 동시성 실험에서도 처리량 격차가 11.5~20.2%로 유지됐으며, 특히 큰 모델은 기밀 모드에서 포화점에 더 일찍 도달했다. 기밀 GPU 추론이 부하 상황에서도 실사용 가능한 처리량을 유지하지만, 용량 계획 시 상시적 처리량 손실과 대형 모델의 조기 포화를 함께 고려해야 함을 시사한다.

• •Intel TDX + NVIDIA H100 80GB 환경에서 기밀 컴퓨팅 모드의 LLM 추론 오버헤드를 정량 측정
• •기밀 모드에서 TTFT가 Mistral-7B 21.8%, Qwen3-30B-A3B 27.8% 증가
• •전역 토큰 처리량은 각각 17.7%, 21.1% 감소하며 폐루프 동시성 실험에서도 11.5~20.2% 격차 유지
• •대형 모델일수록 기밀 모드에서 포화점에 더 일찍 도달 — 용량 계획 시 별도 고려 필요