다기관 의료 AI의 핵심 패러다임인 연합학습에서도, 공유된 모델 업데이트만으로 환자 이미지를 복원하는 모델 역전 공격이 안전 집계를 뚫을 수 있다는 위협이 커지고 있다. 연구진은 모든 알려진 모델 역전 공격의 성공이 로컬 배치 크기와 모델의 유출 용량 간 관계에 근본적으로 제한된다는 점에 착안해, 클라이언트가 실제 업데이트에 로컬에서 합성한 과제 관련 데이터 기반 마스킹 기울기를 더해 공격의 복원 한계를 넘기는 방어 기법 아이지스를 제안했다. 환자 데이터를 변형하거나 연합학습 프로토콜을 수정하지 않고도 작동하며, 표준 컨벡스 가정 하에서 수렴성을 이론적으로 보장한다. MNIST, CIFAR-10, 흉부 X선과 복부 CT, 대장 병리 등 3종의 의료 영상 데이터셋에서 최신 공격 3종을 모두 무력화하면서도 모델 유용성을 유지하고 오버헤드도 크지 않았다.
- •연합학습에서 공유 업데이트만으로 환자 이미지를 복원하는 모델 역전 공격에 대응하는 방어 기법 아이지스 제안
- •모델 역전 공격의 성공은 로컬 배치 크기와 모델 유출 용량의 관계에 제한된다는 점을 방어 원리로 활용
- •클라이언트가 합성 데이터 기반 마스킹 기울기를 실제 업데이트에 더해 공격의 복원 한계를 초과시킴
- •환자 데이터 변형이나 연합학습 프로토콜 수정 없이 작동, 표준 컨벡스 가정 하 수렴성 이론 보장
- •MNIST, CIFAR-10, 3종의 의료 영상 데이터셋에서 최신 공격 3종을 모두 무력화하면서도 모델 성능 유지
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Aegis: Generative Gradient Masking for Privacy-Preserving Medical Federated Learning
- 1.의료 연합학습(FL)에서 모델 역전 공격(MIA)을 막는 클라이언트 측 방어 기법 Aegis 제안
- 2.합성한 과제 관련 데이터로 만든 마스킹 그래디언트를 더해 유효 배치 크기를 공격 한계 이상으로 키움
- 3.환자 데이터 왜곡 없이, 암호학적 프로토콜보다 가볍게 방어
- 4.흉부 X-ray·복부 CT·대장 병리 등에서 최신 MIA 3종을 무력화하면서 성능 유지
왜 중요한가?
진단 정확도를 희생하거나 시스템을 복잡하게 만들지 않고도 환자 영상 재구성 공격을 막을 수 있어, 병원 간 협업 AI 모델 학습의 실질적 프라이버시 장벽을 낮춘다.
언급 프로젝트
본문 미리보기
arXiv:2609.38339v1 Announce Type: new Abstract: Federated learning (FL) has become a foundational paradigm for multi-institutional medical AI, allowing hospitals and research centers to jointly train diagnostic models without exchanging patient records. This privacy promise, however, is increasingly contested: a malicious or honest-but-curious server can launch model inversion attacks (MIAs) that reconstruct private patient images directly from shared model updates, and recent scalable, closed-
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안
