Hoss는 GPU와 CPU의 신뢰실행환경(TEE)을 결합해 오블리비어스(access-pattern 은닉) 시맨틱 검색을 가속하는 시스템이다. 기존 최고 성능 시스템 Compass는 HNSW 그래프 위에 ORAM을 얹어 접근 패턴을 숨기지만 여전히 큰 오버헤드가 남는데, 이는 Ω(log N) 대역폭 하한에 묶인 ORAM 접근이 병목이기 때문이다. Hoss는 GPU TEE의 대용량 사설 메모리(Pmem)가 내부 접근 패턴을 자연스럽게 가려준다는 점에 착안해, 자주 쓰이는 HNSW 상위 계층은 GPU TEE에서 처리하고 용량을 넘는 하위 계층만 CPU TEE로 넘겨 오블리비어스 연산을 그때만 적용한다. 프로토타입 평가 결과 Compass 대비 최대 67배의 속도 향상을 보이면서도 높은 recall을 유지했으며, 규모가 커질수록 이득이 더 커졌다.
- •GPU-CPU 이기종 TEE 구조로 오블리비어스 시맨틱 검색의 ORAM 병목을 우회
- •GPU TEE의 대용량 사설 메모리가 내부 접근 패턴을 은닉해 상위 HNSW 계층을 저비용 처리
- •용량 초과분만 CPU TEE로 오프로드해 오블리비어스 연산 범위를 최소화
- •Compass 대비 최대 67배 속도 향상, 대규모에서 이득 더 커짐
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Hoss: Fast Oblivious Semantic Search with Heterogeneous GPU-CPU-TEE Architecture
- 1.GPU-CPU-TEE 이종 아키텍처로 데이터 내용과 접근 패턴을 동시에 보호하는 오블리비어스 시맨틱 검색 시스템 Hoss 제안
- 2.GPU TEE의 대용량 프라이빗 메모리로 HNSW 그래프의 핫패스 순회를 처리, 용량 초과분만 CPU TEE로 오프로드
- 3.기존 최고 시스템 Compass 대비 최대 67배 속도향상, 규모가 클수록 이득 증가
왜 중요한가?
시맨틱 검색은 AI 시스템 전반에 쓰이지만 프라이버시 보호 검색은 ORAM의 대역폭 하한 때문에 느렸는데, GPU TEE의 대용량 메모리로 이 병목을 근본적으로 우회해 프라이버시 보존 벡터검색의 실용화 가능성을 크게 높인다.
본문 미리보기
arXiv:2609.04522v1 Announce Type: new Abstract: Semantic search is widely deployed in modern AI systems, but protecting both data contents and access patterns remains challenging. The current state-of-the-art system, Compass, achieves oblivious semantic search by building an optimized ORAM over HNSW graphs. However, even with aggressive optimizations, it still incurs large overheads. Closing this performance gap is fundamentally difficult: Compass has already removed most cryptographic overhead
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안
![[AI리더의 서가] Agentic AI 구축 개발의 모든 것](https://cdn.aitimes.com/news/photo/202610/215958_219938_244.jpg)
