이 논문은 DNN의 최종 출력 레이블만 관찰할 수 있는 하드레이블 설정에서 모델 파라미터를 추출하는 공격을 다루며, 유로크립트 2025에서 제안된 다항시간 하드레이블 추출 기법의 병목이었던 '부호 복원' 단계를 완전히 새로운 원리로 해결하는 알고리즘을 제안한다. 기존 방법은 부호 복원에 방대한 쿼리와 계산량이 필요해 블랙박스 환경에서 종단간 구현이 어려웠지만, 제안 기법은 부호 복원 전용 쿼리가 필요 없으면서도 기존보다 더 높은 부호 복원 정확도를 달성한다. 이를 통해 하드레이블 모델 추출의 모든 단계를 완전한 블랙박스 환경에서 구현할 수 있게 됐으며, MNIST와 Fashion-MNIST로 학습된 모델에서 종단간 추출을 시연해 98% 이상의 레이블 일치율을 달성했다.
- •하드레이블(최종 라벨만 관찰 가능) 설정에서 DNN 파라미터를 추출하는 공격의 핵심 병목인 부호 복원 문제 해결
- •전용 쿼리 없이도 기존보다 더 높은 부호 복원 정확도를 달성하는 새 알고리즘 제안
- •모델 추출 전 과정을 완전한 블랙박스 환경에서 종단간 구현 최초 시연
- •MNIST·Fashion-MNIST 학습 모델에서 98% 이상의 레이블 일치율로 추출 성공
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
End-to-End Hard-Label Cryptanalytic Model Extraction Using Efficient Sign Recovery
- 1.Eurocrypt 2025 Carlini 등의 하드라벨 모델추출 병목 '부호복구'를 새 원리로 해결
- 2.제안 알고리즘은 부호복구 전용 쿼리 없이 기존보다 높은 정확도 달성
- 3.MNIST·Fashion-MNIST 학습 ReLU MLP에서 완전 블랙박스 종단간 추출 실증
- 4.추출 모델이 원본과 98% 이상 라벨 일치율 기록
왜 중요한가?
모델 파라미터를 입력-출력 쿼리만으로 훔치는 하드라벨 추출 공격이 처음으로 완전한 블랙박스 환경에서 종단간 실증되어, 오라클 API로만 노출된 상용 DNN의 IP 탈취 위험을 보여준다.
딥러닝 모델의 매개변수는 기업의 핵심 자산으로, 이를 오라클 쿼리만으로 추출하는 공격은 국내 AI 기업들에게 심각한 위협이 됩니다. 이 연구는 '하드 레이블' 설정에서 모델 추출 공격의 효율성을 높이는 방법을 제시하여, 인공지능 모델 지적재산권 보호의 중요성을 강조합니다. 한국의 AI 개발자들은 이러한 정교한 공격에 대비한 방어 전략 마련에 더욱 집중해야 할 것입니다.
본문 미리보기
The importance of deep neural networks (DNNs) is widely recognized, and the parameters obtained through training are regarded as valuable assets. Recently, attacks that extract these parameters using only oracle queries to a DNN have been actively studied at IACR conferences. The hard-label setting is the most challenging setting for model extraction, where an adversary can observe only the final output label, such as “dog” or “cat.” At Eurocrypt 2025, Carlini et al. proposed polynomial-time har
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안

![[10월12일] AI가 암을 치료해도 원리를 알아야 할까…수학자 타오의 질문에 쏟아진 반론](https://cdn.aitimes.com/news/photo/202610/216150_220160_1157.jpg)

