FISGuard는 연합학습 환경에서 LLM을 파인튜닝할 때 그래디언트를 통해 학습 데이터의 멤버십(포함 여부)이 유출되는 것을 막는 경량 방어 기법이다. 최신 공격 기법 ProjRes는 모델 출력 접근 없이도 서버가 관찰 가능한 그래디언트와 후보 표현 간의 투영 잔차만으로 멤버 여부를 효과적으로 구분하는데, 기존 그래디언트 교란·정규화 기반 방어는 이를 막지 못하고 모델 성능마저 떨어뜨렸다. FISGuard는 공개 데이터로 만든 저차원 표현 부분공간에 사설 표현을 고정 투영시켜 그래디언트를 통한 노출 경로 자체를 제한한다. 3개 NLP 데이터셋, 2개 LLM, Adapter·LoRA 두 파인튜닝 방식에서 5개 기존 방어 기법과 비교한 결과, ProjRes 공격 AUC를 무작위 추측 수준인 0.5에 근접시키면서도 다운스트림 성능 저하와 연산 부담은 최소화했다.

• •ProjRes 공격은 모델 출력 없이 서버 관찰 가능 그래디언트만으로 멤버십 추론이 가능해 기존 방어보다 위협적
• •FISGuard는 공개 데이터로 고정한 저차원 표현 부분공간에 투영해 그래디언트 유출 경로를 원천 차단
• •3개 NLP 데이터셋·2개 LLM·Adapter/LoRA 조합에서 ProjRes 공격 AUC를 무작위 수준(0.5)까지 낮춤
• •다운스트림 작업 성능은 방어 미적용 모델과 유사하게 유지, 연산 오버헤드도 제한적