Fairis는 금융기관 간 협업 머신러닝에서 공정성을 훼손하려는 악의적 클라이언트(fairness poisoning)에 대응하는 서버 측 재가중 기법이다. 각 클라이언트의 로컬 균등기회차이(Equal Opportunity Difference)를 기반으로 정규화된 가중치를 부여해, 편향이 클수록 가중치가 단조 감소하도록 설계했으며 이를 수학적으로 증명했다. 정확도 기반 방어를 피할 만큼 은밀한 공격자에 대해서도 대만 신용카드 데이터셋에서 크기 무관 기준선 대비 가중치를 41~54% 낮췄고, 기존 FairFed는 특정 조건에서 클라이언트 가중치를 아예 0으로 만드는 문제가 있었다. 다만 정직한 점수 보고를 전제로 하며, 비독립동일분포(non-IID) 상황 전반에서 모든 규칙을 압도하는 절대 강자는 없음을 함께 보였다.
- •공정성 오염 공격자에 대해 가중치를 단조적으로 낮추는 서버 측 재가중 기법
- •은밀한 공격자에게도 크기 무관 기준선 대비 가중치 41~54% 감소
- •기존 FairFed는 특정 데이터셋에서 클라이언트 가중치를 0으로 만드는 결함 발견
- •Monotone Weight Reduction 등 세 가지 속성을 수학적으로 증명
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Fairis: Fairness-Aware Aggregation with Provable Influence Containment against Fairness Poisoning Attacks in Collaborative Machine Learning
본문 미리보기
arXiv:2608.06469v1 Announce Type: new Abstract: Collaborative machine learning among financial institutions must be both group-fair and robust against deliberate adversarial manipulation. Existing fairness-aware aggregation methods remain formally vulnerable to fairness poisoning: a malicious client maximizing group disparity while preserving accuracy evades accuracy-based Byzantine defenses, and in our threat model FairFed's gap-based weighting can be gamed by an adversary who observes the glo
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:57AI 초안



