FESC는 긴 민감 문서를 암호화 상태로 처리하는 프라이빗 추론 시스템으로, 암호화된 트랜스포머 어텐션의 이차 비용 병목을 선택적 상태공간모델(SSM)의 선형 시간 재귀로 해결한다. 입력 의존적 전이를 압축된 형태로 유지하고 조밀한 확장 없이 합성하는 '분해된 스캔-압축' 방식이 핵심이다. Mamba-2에 GPU 최적화 CKKS 커널과 MPC 프로토콜을 적용했으며, 시퀀스 길이 1,024 이상에서 단일 GPU 종단간 실행을 완료한 최초의 프라이빗 장문서 추론 시스템이다. 길이 2,048 기준 A100 한 대로 77.3분, 메모리 32.7GB로 평문에 근접한 정확도를 유지했다.
- •암호화된 트랜스포머 어텐션의 이차 비용 병목을 선형 시간 SSM으로 해결
- •'분해된 스캔-압축' 방식으로 조밀한 확장 없이 상태를 스트리밍 압축
- •시퀀스 길이 1,024 이상에서 단일 GPU 종단간 실행을 달성한 최초 시스템
- •길이 2,048 기준 A100 한 대로 77.3분, 메모리 32.7GB, 평문 근접 정확도
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
FESC: Remodeling Long-Context Private Inference with Encrypted State-Space Models
- 1.긴 문서를 암호화 상태로 처리하는 프라이뱗 보존 추론 시스템 FESC 제안, SSM 기반
- 2.암호화 Transformer의 병목인 어텐션의 이차 연산량 문제를 선형시간 SSM으로 우회
- 3.Mamba-2 기반 구현으로 시퀀스 길이 2048, 12레이어 모델을 A100 GPU 1장에서 77.3분에 처리, 평문 수준 정확도 유지
- 4.SiLU·softplus·exponential·RMSNorm 등 비선형 연산을 위한 전용 MPC 프로토콜 설계
왜 중요한가?
긴 민감 문서(의료기록·법률문서 등)를 클라우드에서 암호화 상태로 분석할 수 있는 실용적 경로를 제시해, 프라이버시가 중요한 장문 AI 추론 서비스의 실현 가능성을 높인다.
본문 미리보기
arXiv:2608.17442v2 Announce Type: new Abstract: Processing long, sensitive documents with machine-learning models requires efficient, privacy-preserving long-context inference. Prior private inference systems optimize or distribute encrypted Transformer attention, but its quadratic token-pair work remains the bottleneck as sequence length grows. Selective state-space models (SSMs) offer linear-time recurrence, yet direct encrypted implementation incurs linear multiplicative depth, sequence-wide
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:02AI 초안
