AI 검증은 신뢰 경계를 넘나드는 작업으로, 검증자는 인가된 주장을 확인할 만큼 충분한 정보를 얻어야 하지만 동일한 증거가 모델·워크로드·하드웨어에 대한 민감한 세부정보를 함께 노출시킬 수 있다. 이 연구는 검증자에게 제공되는 증거 자체의 정보량을 설계하고 정량화하는 '최소 정보 공개(MID)' 기법을 제안한다. MID는 인가된 결과를 알고 난 뒤 그 공개가 보호 대상 속성에 대해 추가로 드러내는 정보를 조건부 상호정보량으로 측정한다. 실행 유형, 하드웨어 신원, 연산 규모, 모델 신원 등 4가지 물리적 측정과 6개 검증 과제에 적용한 결과, 세 가지 공개 방식에서는 완벽한 검증과 함께 측정된 부수적 정보 유출이 0이었고, 나머지 과제에서는 명시적인 프라이버시-유용성 트레이드오프 곡선을 얻었다. 또한 Groth16 영지식증명을 이용한 선형투영 메커니즘으로 ZKP 인증 공개도 지원함을 보였다.
- •인가된 결과 공개 후 추가로 드러나는 정보를 조건부 상호정보량으로 측정하는 MID 기법 제안
- •실행 유형·하드웨어 신원·연산 규모·모델 신원 등 4개 측정, 6개 검증 과제에 적용
- •세 가지 공개 방식에서 완벽한 검증과 부수적 정보 유출 0 동시 달성
- •나머지 과제에서는 명시적 프라이버시-유용성 트레이드오프 곱선 도출
- •Groth16 zk-SNARK 기반 선형투영 메커니즘으로 ZKP 인증 공개도 지원
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Privacy-Preserving AI Verification via Minimal Information Disclosure
본문 미리보기
arXiv:2608.02774v1 Announce Type: new Abstract: AI verification crosses a trust boundary: a verifier must learn enough to establish an authorized claim, yet the same evidence can reveal sensitive details about the model, workload, or hardware. We introduce minimal information disclosure (MID), which designs and quantifies the information content of verifier-facing evidence itself. MID measures collateral leakage with conditional mutual information: what the release reveals about the protected p
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:58AI 초안
