이 연구는 클라이언트 데이터를 재학습 없이 정확히 삭제하는 연합 언러닝(federated unlearning) 시스템이 삭제 후 방송하는 갱신된 선형 분류기가 오히려 삭제 전 압축 요약 정보를 노출할 수 있음을 보였다. 악의적 클라이언트가 알려진 변경을 제출하고 반환된 분류기로 서버 상태를 식별한 뒤 특정 삭제 전후 상태를 비교하면 삭제된 샘플·클래스·클라이언트 요약이 드러나 재삽입까지 가능해진다. 저자들은 관측치가 충분한 독립 정보를 담는 조건을 규명하고 무제한 프로브에 대한 최적 공격 구성과 공격자 자신의 데이터로 구성한 더 현실적인 추정기를 제시했다. MNIST와 CIFAR-10 실험에서 고정밀 방송은 두 프로브 방식 모두에서 모든 테스트 샘플 삭제에 대해 정확한 라벨 복구를 가능케 했으나, 저정밀 방송은 세밀한 복구를 크게 저해하고 다양성이 부족한 응답은 식별 자체를 막았다.
- •연합 언러닝의 삭제 후 갱신 분류기 방송이 삭제된 데이터의 숨겨진 요약 정보를 노출할 수 있음을 증명
- •악의적 클라이언트가 삭제 전후 서버 상태를 비교해 삭제된 샘플·클래스·클라이언트를 식별, 재삽입까지 가능
- •MNIST·CIFAR-10 실험에서 고정밀 방송 시 모든 테스트 삭제 샘플의 라벨을 정확히 복원
- •저정밀 방송이나 낮은 응답 다양성은 이런 복원·식별을 크게 저해하는 실질적 방어 요인으로 확인
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Client-Side Probing of Deleted Ridge Statistics in Federated Unlearning
- 1.연합 언러닝이 삭제 후 배포하는 갱신된 선형분류기가 숨겨진 학습 특성 요약을 역으로 노출시킬 수 있음을 규명
- 2.악의적 클라이언트가 알려진 변경을 제출하고 삭제 전후 서버 상태를 비교해 삭제된 샘플·클래스를 특정, 재주입까지 가능
- 3.MNIST·CIFAR-10에서 고정밀도 브로드캐스트 시 모든 샘플의 정확한 라벨 복구 성공, 저정밀도에선 방어 가능함도 확인
왜 중요한가?
삭제를 정확하게 만들기 위해 도입한 효율적 요약·브로드캐스트 메커니즘이 역설적으로 삭제된 정보 자체를 재유출시킬 수 있음을 보여줘, 연합학습 환경의 '잊혀질 권리' 구현에 새로운 프라이버시 허점을 제기한다.
본문 미리보기
arXiv:2609.04475v1 Announce Type: new Abstract: Federated unlearning aims to remove a client's data from a shared model without retraining from scratch. Some efficient systems make deletion exact by storing compact, additive summaries of the training features and broadcasting an updated linear classifier after every accepted change. We show that these broadcasts can also reveal the hidden summaries. A malicious client can submit known changes, use the returned classifiers to identify the server
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안
![[AI리더의 서가] Agentic AI 구축 개발의 모든 것](https://cdn.aitimes.com/news/photo/202610/215958_219938_244.jpg)
