허깅페이스가 브라우저에서의 AI 추론 속도를 높이기 위해 '@huggingface/kernels'라는 새 라이브러리와 207개의 최적화된 WebGPU 커널 모음을 공개했다. 각 커널은 매니페스트, 정확성 테스트, 벤치마크 케이스, WGSL 셰이더 템플릿을 함께 갖춘 독립 저장소로 허깅페이스 허브에 버전 관리되어 게시된다. 애플 M4 GPU에서 ONNX Runtime Web과 비교한 결과, 809개의 비교 가능한 테스트 케이스에서 기하평균 2.57배, 중앙값 1.90배 빠른 성능을 보였으며 일부 연산은 최대 1만 배 이상 빨랐다. 함께 공개한 'Fleet'은 사용자 동의를 받아 실제 기기에서 정확성과 성능 데이터를 수집하는 브라우저 기반 벤치마킹 도구로, 다양한 GPU·브라우저 환경에서의 커널 개선에 활용된다. 이는 브라우저 내 로컬 AI 추론 스택을 고도화하려는 허깅페이스 WebAI 팀의 첫 단계 작업이다.

• •허깅페이스가 207개의 최적화된 WebGPU 커널과 이를 로딩·실행하는 라이브러리 @huggingface/kernels를 공개했다.
• •각 커널은 매니페스트, 정확성·벤치마크 테스트, WGSL 셰이더까지 함께 버전 관리되는 독립 저장소로 제공된다.
• •애플 M4 GPU 테스트에서 ONNX Runtime Web 대비 기하평균 2.57배, 중앙값 1.90배 빠른 성능을 기록했다.
• •브라우저 기반 벤치마킹 도구 'Fleet'으로 실사용자 기기에서 정확성·성능 데이터를 크라우드소싱한다.
• •브라우저 내 로컬 AI 추론을 고도화하려는 허깅페이스 WebAI 팀의 기반 작업 첫 단계다.