화웨이가 상하이에서 열린 '화웨이 커넥트 2026'에서 AI 추론용 KV 캐시를 SSD까지 확장해 대규모로 공유하는 '오션스토어 M900 컨텍스트 메모리 스토리지'를 공개했다. 단일 클러스터에서 최대 64PB의 KV 캐시 용량을 제공하며, NPU와 SSD를 원홉으로 직접 연결해 데이터 접근 지연시간을 기존 밀리초 단위에서 60마이크로초로 90% 줄였다. 총 접근 대역폭은 40TB/s로 경쟁 솔루션 대비 1.5배 높고, 일반적인 AI 환경에서 추론 클러스터의 토큰 처리량을 2배 늘리고 첫 토큰 생성 시간(TTFT)을 절반으로 단축한다고 밝혔다. 화웨이는 KV 인식형 적응형 스토리지 기술로 SSD 수명도 16배 늘려 3년간 안정적 운영이 가능하다고 설명했다.

• •오션스토어 M900, 단일 클러스터 최대 64PB KV 캐시 용량 제공
• •NPU-SSD 원홈 연결로 접근 지연시간 60마이크로초, 기존 대비 90% 감소
• •총 접근 대역폭 40TB/s로 경쟁 솔루션 대비 1.5배
• •추론 클러스터 토큰 처리량 2배, TTFT(첫 토큰 생성 시간) 절반 단축
• •KV 인식형 적응형 스토리지로 SSD 수명 16배 연장, 3년 안정 운영