이 연구는 서로 다른 모델·GPU·프롬프트·품질 지표에서 보고되는 LLM 추론 최적화 기법들을 비교·조합할 수 있도록 비용·품질·지연시간 파레토 지도를 구축했다. Qwen2.5-7B-Instruct를 vLLM 0.12에서 L4·A100·H100 GPU로 54가지 구성으로 측정해 시뮬레이터를 보정했으며, 시뮬레이터는 캠페인 간 오차 1.5% 미만으로 측정값을 재현했다. GSM8K 200문항 기반 품질 평가에서 보정된 격자의 36개 구성 중 18개가 파레토 프런티어에 도달했고, 단일 기법(21개 중 9개)보다 복합 기법(15개 중 9개)이 더 자주 프런티어에 도달했다. AWQ 4비트는 L4에서 지연시간을 기준선의 0.34배로 줄였지만 GSM8K 정확도를 5.9%p 잃어 품질 기준(95%)에 근접 미달했고, FP8 가중치는 세 GPU 전반에서 정확도의 99.4%를 유지하며 지연시간을 0.61~0.65배로 줄여 4개 구간 중 3개에서 최적 선택으로 꼽혔다. 최적의 선택은 제약 조건과 GPU에 따라 달라져, 지연시간 최우선이면 H100, 처리량과 비용(100만 토큰당 0.106달러) 최우선이면 A100이 유리했다.

• •LLM 추론 최적화 기법을 비교하기 위해 비용·품질·지연시간 파레토 지도를 구축, Qwen2.5-7B-Instruct 54개 구성으로 시뮬레이터 보정(오차 1.5% 미만)
• •보정된 격자 36개 구성 중 18개가 파레토 프런티어 도달, 복합 기법이 단일 기법보다 프런티어 도달 비율 높음
• •AWQ 4비트는 L4에서 지연시간 0.34배지만 GSM8K 정확도 5.9%p 손실로 95% 품질 기준에 근접 미달
• •FP8 가중치는 세 GPU에서 정확도 99.4% 유지하며 지연시간 0.61~0.65배로 4개 구간 중 3개 최적안으로 선정
• •단순 FP8 KV 캐시는 처리량은 정상이지만 200문항 중 한 문제도 맞히지 못해 속도만으로는 불충분함을 보여줌