IBM이 8월 25일 압축형 영어 음성인식 모델 두 종 '그래니트 스피치 5.0 터보CTC'를 공개하며 초당 3.5시간 분량의 음성을 처리하는 오픈 모델 최고 처리량을 주장했다. 각 4억7000만 파라미터의 두 모델은 단일 엔비디아 H200 GPU에서 합산 12,600 RTFx 이상의 처리 속도를 기록했으며, OpenASR 리더보드 영어 단문 테스트에서 비상업용 모델은 4.85%, 아파치 2.0 라이선스 모델은 5.00%의 단어 오류율을 기록했다(자체 발표치). 두 모델은 기존 그래니트 스피치의 언어모델을 제거하고 16계층 컨포머 인코더와 CTC 디코딩만으로 동작해 속도를 20배 이상 높였으며, 대신 음성 번역 등 일부 기능은 잃었다. 원거리·잡음 환경을 평가하는 FFASR 리더보드에서는 정확도 순위가 각각 5위·9위에 그쳤지만 처리 속도는 두 모델 모두 1·2위를 차지했다. 지연시간과 처리량이 중요한 노트북·엣지 기기용 기업 음성인식 시장을 겨냥한 모델로, 현재 허깅페이스에서 공개돼 있다.

• •그래니트 스피치 5.0 터보CTC, 초당 3.5시간 음성 처리(H200 GPU 기준 12,600+ RTFx)
• •4억7000만 파라미터, OpenASR 리더보드 단어오류율 4.85~5.00%(자체 발표)
• •언어모델 제거하고 CTC 기반 비자기회귀 디코딩으로 처리속도 20배 이상 향상
• •FFASR(원거리·잡음) 리더보드 정확도는 5·9위지만 속도는 1·2위
• •H100 8장으로 10일 학습, 허깅페이스 공개 및 브라우저 스트리밍 데모 제공