프라이빗 에볼루션(PE)은 사용자 원본 데이터를 노출하지 않고 연합 환경에서 고품질 합성 데이터를 생성하지만, 클리핑된 사용자 투표를 차등정보보호(DP) 히스토그램으로 집계하는 이 방식에서 공격자가 이론상 최악의 프라이버시 손실을 실제로 달성할 수 있는지는 불분명했다. 이 논문은 서버가 공유 후보 뱅크의 약 1%를 알려진 비프라이버시 카나리로 대체하는 프로토콜 인식 실증 감사 기법을 제안한다. 정확 복사, 그럴듯한 재구성, 고엔트로피 합성 논스 등 8가지 공격을 Yelp와 Sentiment140 데이터로 평가한 결과, 자연어 기반 공격은 이론적 DP 상한보다 훨씬 낮은 성능에 그친 반면 논스 기반 공격은 프라이버시 상한에 가장 근접했다. 형식적 최악 프라이버시 보장과 실제 달성 가능한 유출 사이의 격차를 정량화한 결과다.
- •PE의 이론적 최악 프라이버시 손실이 실제 공격으로 달성 가능한지를 실증 감사로 검증
- •공유 후보 뱅크의 1%를 알려진 카나리로 교체하는 프로토콜 인식 감사 기법 제안
- •자연어 공격은 DP 상한에 크게 못 미치고, 고엔트로피 논스 공격이 상한에 가장 근접
- •형식적 프라이버시 보장과 실제 달성 가능한 프라이버시 손실 사이의 격차를 정량화
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Canaries in the Bank: Auditing User-Level Privacy in Private Evolution
- 1.프라이빗 에볼루션(PE)의 실제 프라이버시 손실을 검증하는 프로토콜 인식 경험적 감사 기법 제안
- 2.공유 후보뱅크 항목의 약 1%를 알려진 카나리아 프로브로 교체해 8종 공격으로 평가
- 3.Yelp·Sentiment140 실험서 자연어 공격은 이론적 DP 상한보다 훨씬 낮은 손실만 유발
- 4.고엔트로피 넌스 기반 공격이 가장 강한 프라이버시 경계에 근접, 이론-실제 격차 정량화
왜 중요한가?
연합학습 기반 합성데이터 생성이 광고하는 차분 프라이버시 보장이 실제 공격 하에서도 유지되는지 정량적으로 검증했다는 점에서, PE를 도입하는 기업의 프라이버시 리스크 평가에 직접 참고할 수 있는 근거를 제공한다.
언급 프로젝트
본문 미리보기
arXiv:2609.13499v1 Announce Type: new Abstract: Private Evolution (PE) generates high-fidelity synthetic data in federated settings without exposing users' raw data. It aggregates clipped user votes over a shared candidate bank into a differentially private histogram, with noise calibrated to the worst-case user contribution. However, it is unclear whether an adversary can realize this worst-case privacy loss while following the PE protocol. We introduce a protocol-aware empirical audit in whic
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안

![[10월12일] AI가 암을 치료해도 원리를 알아야 할까…수학자 타오의 질문에 쏟아진 반론](https://cdn.aitimes.com/news/photo/202610/216150_220160_1157.jpg)

