CPA는 LLM 기반 재식별 공격에 대한 통계적 위험 인증을 제공하는 무배포가정 캘리브레이션 프레임워크다. 각 공개 문서에 대해 사용자가 지정한 신뢰도로 실제 신원을 포함하도록 보장되는 '적합성 모호집합'을 산출하고, 집합 크기에서 유출 위험 지표를 도출한다. 로짓 접근 공격자와 샘플링만 가능한 공격자 모두를 지원해 오픈소스 모델과 API 전용 모델을 동일한 틀에서 감사할 수 있다. 여러 공개 벤치마크에서 CPA는 보정된 커버리지를 달성했고, 보조 지식·LLM 활용·공개 방식에 따라 인증된 식별 가능성이 급격히 달라짐을 보였다. 텍스트 공개 전 재식별 위험을 정량적으로 비교할 근거를 제공한다는 점에서 프라이버시 감사 실무에 실질적 도움이 될 것으로 보인다.
- •CPA는 분포에 대한 가정 없이 문서별 재식별 위험에 통계적 인증서를 부여한다
- •사용자 지정 신뢰수준에서 실제 신원을 포함하도록 보장하는 모호집합을 산출해 위험을 정량화한다
- •로짓 접근 공격자와 샘플링 전용 공격자를 모두 다뤄 오픈소스·API 모델을 통일된 틀로 감사한다
- •여러 벤치마크에서 보조 지식, LLM 활용도, 공개 방식에 따라 인증된 식별 가능성이 크게 달라짐을 확인했다
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Conformal Privacy Auditing: Calibrated Re-identification Attacks with Statistical Guarantees
- 1.CPA(Conformal Privacy Auditing): 공개 문서별 재식별 위험을 통계적으로 보증하는 분포무관 보정 프레임워크 제안
- 2.사용자 지정 신뢰수준으로 실제 신원을 포함하도록 보장된 '후보 신원 집합'을 산출, 집합 크기로 유출도 해석
- 3.로짓접근·샘플링전용 공격자 모두 지원, 공개모델·상용 API 모델을 동일 프레임워크로 감사
왜 중요한가?
기존 재식별 공격 평가가 특정 파이프라인의 성공률만 보고했던 것과 달리, 문서 단위로 통계적 보증을 제공해 데이터 공개 전 재식별 위험을 정량적·비교 가능하게 심사할 수 있는 감사 도구를 제공한다.
언급 프로젝트
본문 미리보기
arXiv:2609.21340v1 Announce Type: new Abstract: Empirical identity leakage from released text is increasingly driven by attackers that combine large language models (LLMs) with auxiliary knowledge to link documents to individuals. Existing audits typically report success rates for specific attack pipelines but lack finite-sample statistical guarantees, while training-time protections such as differential privacy are difficult to translate into release-time decisions for individual natural-langu
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안

![[10월12일] AI가 암을 치료해도 원리를 알아야 할까…수학자 타오의 질문에 쏟아진 반론](https://cdn.aitimes.com/news/photo/202610/216150_220160_1157.jpg)

