Hugging Face와 Cerebras가 Google DeepMind의 Gemma 4 31B를 활용한 실시간 음성 대화(speech-to-speech) 데모를 공개했다. 파이프라인은 Nvidia Parakeet 음성인식 → Cerebras에서 Gemma 4 VLM 추론 → Alibaba Qwen3TTS 음성합성으로 이어지는 완전 개방형 캐스케이드 구조로, 각 구성 요소를 개발자가 자유롭게 교체·확장할 수 있다. Cerebras의 고속 추론이 음성 AI의 최대 병목인 LLM 응답 지연, 특히 P95 롱테일 지연을 줄여 사람 간 대화 수준의 반응성을 구현했다는 설명이다. 이 파이프라인은 이미 9,000대 이상 보급된 Reachy Mini 로봇에도 탑재돼 있다. 오픈소스 모델과 고속 추론 인프라의 결합이 실시간 대화형 AI의 실용화를 앞당기고 있음을 보여준다.

• •Parakeet(음성인식) → Gemma 4 31B(Cerebras 추론) → Qwen3TTS(음성합성)의 완전 개방형 모듈러 스택
• •Cerebras 고속 추론으로 LLM 응답 지연, 특히 P95 롱테일 지연 해소
• •동일 파이프라인이 9,000대 이상 보급된 Reachy Mini 로봇에 이미 탑재
• •데모와 코드를 Hugging Face Space와 GitHub에 공개해 개발자 실험 가능