NVIDIA의 Grace Hopper(GH200) 수퍼칩은 72코어 Arm CPU와 Hopper GPU를 캐시 일관 고대역 인터커넥트로 통합해 PCIe 병목을 없애고 통합 메모리 도메인을 제공하며, 접근 카운터 기반으로 자주 쓰는 페이지를 CPU에서 GPU DRAM으로 자동 이전하는 하드웨어 보조 페이지 마이그레이션을 도입했다. 연구팀은 이 신규 아키텍처의 페이지 마이그레이션 지원을 겨냥한 사이드·커버트 채널 공격을 분석해, 공유 접근 카운터 구조와 마이그레이션 인터럽트 처리 파이프라인에서 각각 취약점을 발견했다. 두 채널 모두 강력한 하드웨어 격리를 제공한다는 멀티인스턴스 GPU(MIG) 파티션 간에도 악용 가능해, 축출 기반 신호로 초당 약 8500비트, 마이그레이션 지연 기반 신호로 초당 약 8100비트의 커버트 채널을 구축했다. 인터럽트 기반 채널은 서로 다른 LLM의 추론 작업을 구분하고 프롬프트 길이까지 높은 정확도로 추정할 수 있어, 현재 MIG 기반 멀티테넌트 GPU 배포의 격리 보장에 의문을 제기한다.
- •GH200의 하드웨어 보조 페이지 마이그레이션에서 2개의 신규 사이드채널 취약점 발견
- •공유 접근 카운터 구조와 마이그레이션 인터럽트 처리 파이프라인이 취약점의 근원
- •강력한 격리를 제공한다는 MIG 파티션 간에도 초당 8100~8500비트 커버트 채널 구축 성공
- •인터럽트 기반 채널로 LLM 추론 워크로드 지문 채취 및 프롬프트 길이 고정밀 추정 가능
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
PAGE404: Breaking GPU Isolation Through Hardware-assisted Page Migration
- 1.NVIDIA GH200의 하드웨어 지원 페이지 마이그레이션에서 두 가지 부채널 취약점 발견
- 2.공유 접근 카운터 구조와 UVM 드라이버 마이그레이션 인터럽트 처리에서 각각 누출 경로 확인
- 3.MIG 파티션 간에도 공격 가능, 추방·지연 신호로 초당 8,500/8,100비트 은닉채널 구축
- 4.인터럽트 기반 채널로 실행 중인 LLM 종류와 프롬프트 길이까지 높은 정확도로 추정
왜 중요한가?
멀티테넌트 격리를 보장한다던 GPU MIG 기능이 실제로는 메모리 마이그레이션을 통해 다른 테넌트의 LLM 추론 정보까지 유출시킬 수 있음을 실증, 클라우드 GPU 보안 가정에 경고를 던진다.
언급 프로젝트
NVIDIA Grace Hopper(GH200)와 같은 차세대 이기종 컴퓨팅 플랫폼에서 하드웨어 기반 페이지 마이그레이션을 통해 GPU 격리 메커니즘을 우회하는 취약점이 발견되었습니다. 이는 국내 데이터센터 및 AI 연구기관들이 고성능 GPU 인프라를 구축하고 활용할 때 심각한 보안 위협이 될 수 있음을 시사합니다. 하드웨어 수준의 보안 문제를 깊이 이해하고 대응하는 것이 국가 AI 전략의 안정성과 신뢰성 확보에 매우 중요합니다.
본문 미리보기
arXiv:2610.20962v1 Announce Type: new Abstract: NVIDIA's Grace Hopper (GH200) superchip represents a new generation of heterogeneous computing, tightly integrating a 72-core Arm-based CPU with a Hopper GPU on a single module via a high-bandwidth, cache-coherent interconnect. By eliminating the conventional PCIe bottleneck for CPU-GPU data movement, this design establishes a unified memory domain that scales to the capacities demanded by generative AI and high-performance computing (HPC) workloa
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안