대규모 확산모델(diffusion model)은 막대한 학습 비용 때문에 기업들에게 중요한 지적재산(IP)이지만 무단 도용에 취약하며, 기존 워터마킹 방식은 학습 시 모델에 흔적을 주입해 성능 저하를 유발하고 사후 파인튜닝으로 쉽게 무력화된다는 한계가 있다. 연구진은 모델을 수정하지 않고도 소유권을 검증하는 프레임워크 'Membership is Ownership(MiO)'를 제안했다. 이 방법은 비공개 멤버 증거 데이터셋에 대한 모집단 수준의 가설검정을 이용해, 멤버십 추론을 통한 모델 귀속과 공개 참조 모델과의 분리라는 두 기준을 각각 p<10^-6 수준에서 검증한다. DDIM과 Stable Diffusion에 적용한 결과 모델이나 샘플링 파이프라인 수정 없이도 높은 ROC-AUC와 진양성률을 달성했으며, 도난 후 파인튜닝이나 가중치 변형과 같은 적대적 상황에서도 기존 워터마킹 기법보다 안정적인 강건성을 보였다.
- •모델 수정 없이 소유권을 검증하는 'Membership is Ownership(MiO)' 프레임워크 제안
- •멤버십 추론 기반 모델 귀속과 공개 참조모델과의 분리를 p<10^-6에서 검증
- •DDIM·Stable Diffusion에서 높은 ROC-AUC·진양성률 달성
- •도난 후 파인튀닝·가중치 변형 공격에서도 기존 워터마킹 보다 강건
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Membership is Ownership: A Robust Ownership Verification Framework for Diffusion Models
- 1.모델 수정 없이 멤버십 추론 기반 가설검정으로 확산모델 소유권을 검증하는 프레임워크 MiO(Membership is Ownership) 제안
- 2.기존 워터마킹 기법은 학습시 아티팩트를 삽입해 품질 손실이 나고 후속 미세조정에 치명적이라는 한계를 지적
- 3.모델 귀속(멤버십 추론)과 공개 참조와의 분리 두 기준을 p<10^-6 수준으로 검정해 소유권을 판단
- 4.DDIM과 Stable Diffusion에서 평가, 탈취 후 미세조정·가중치 교란 공격에도 안정적으로 생존해 기존 워터마킹보다 강건성 우수
왜 중요한가?
확산모델은 학습 비용이 막대해 기업의 핵심 지적재산으로 취급되는데, 기존 워터마킹은 성능 저하와 미세조정 공격에 취약했다. 모델을 전혀 수정하지 않고도 통계적으로 소유권을 입증하는 이 접근은 상용 확산모델의 무단 도용 대응에 실질적인 법적·기술적 무기를 제공한다.
언급 프로젝트
본문 미리보기
arXiv:2608.28929v1 Announce Type: new Abstract: Large-scale diffusion models have fueled numerous profitable downstream applications for AI-related businesses, including visual editing and content creation. Meanwhile, due to the huge amount of resource consumption (e.g., computation and high-quality data) during training, such diffusion models are deemed valuable intellectual property (IP) for tech companies like OpenAI and Google. Yet, the IP assets are vulnerable to various unauthorized uses
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안
![[AI리더의 서가] Agentic AI 구축 개발의 모든 것](https://cdn.aitimes.com/news/photo/202610/215958_219938_244.jpg)
