대형언어모델(LLM)은 헬스케어·금융·정부 등 프라이버시가 중요한 영역에 점점 더 많이 배포되지만, 개인식별정보(PII)를 기억하고 노출하는 경향이 보안·컴플라이언스 위험을 낳는다. 기존 방어는 대개 모델 유용성, 프라이버시 보호, 파인튜닝된 비공개 지식 접근 사이에서 트레이드오프를 강제한다. 연구팀은 정책 기반 접근 제어를 LLM 생성 과정에 직접 내장하는 'Locket(LoRA-Oriented Control via Keyed Entry Tokens)' 프레임워크를 제안한다. Locket은 서로 다른 접근 정책(전체 공개, PII 마스킹을 통한 부분 삭제, 지정된 차등 프라이버시 수준 하의 공개 등)을 인코딩하는 경량 LoRA 어댑터 집합을 학습시키고, 학습된 키 진입 토큰을 시퀀스 수준 하드 라우팅으로 정확히 하나의 LoRA 어댑터와 연결하는 소형 게이팅 모듈을 함께 학습시킨다. 유효한 토큰이 있으면 해당 비공개 지식을 여는 인증 키로 작동하고, 토큰이 없거나 유효하지 않으면 프라이버시 보호 어댑터가 민감한 콘텐츠를 삭제·정제한다. Enron·ECHR·Yelp 데이터셋과 Qwen3, Llama-3.2, Gemma-2-2B 등 다양한 최신 LLM에 대한 실험에서, 올바른 토큰이 제공되면 Locket은 방어 없이 원본 데이터로 파인튜닝한 것과 비슷한 퍼플렉시티를 유지했고, 토큰이 없으면 PII 유출을 크게 줄이면서도 유용성을 유지했다.
- •LLM이 PII를 기억하고 노출하는 위험을 해결하기 위해 정책 기반 접근 제어를 생성 과정에 직접 내장한 Locket 프레임워크를 제안.
- •서로 다른 접근 정책을 인코딩하는 경량 LoRA 어댑터들과, 키 토큰을 정확히 하나의 어댑터에 연결하는 게이팅 모듈을 학습.
- •유효한 토큰은 비공개 지식을 여는 인증 키로 작동하고, 토큰이 없거나 틀리면 프라이버시 보호 어댑터가 민감 콘텐츠를 삭제 정제.
- •Enron, ECHR, Yelp와 Qwen3, Llama-3.2, Gemma-2-2B 실험에서 올바른 토큰 제공 시 원본 파인튜닝과 비슷한 성능을, 토큰 부재 시 PII 유출의 큰 감소를 확인.
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Tokenized Key-Gated Adapter Routing: A Secure Access Control Mechanism Against Private Data Leakage in LLMs
- 1.키 토큰으로 LoRA 어댑터를 선택해 PII 노출 수준을 제어하는 프레임워크 'Locket' 제안
- 2.정책별 어댑터 학습 — 전체공개·부분마스킹·차등프라이버시 등 접근정책을 각각 하나의 LoRA로 인코딩
- 3.유효한 키 토큰 입력 시 원본 파인튜닝과 동등한 perplexity 유지, 토큰 없거나 틀리면 민감정보 자동 마스킹
- 4.Enron·ECHR·Yelp 데이터셋과 큐원3, 라마-3.2, 젬마-2-2B 등 다양한 모델에서 검증
왜 중요한가?
의료·금융·행정처럼 프라이버시가 중요한 영역에서 모델 유용성과 PII 보호를 동시에 만족시키기 어려웠는데, 접근 토큰 기반 라우팅으로 기존 상용 LLM과 호환되면서도 세분화된 접근 통제를 구현했다.
본문 미리보기
arXiv:2610.00309v1 Announce Type: new Abstract: Large language models (LLMs) are increasingly deployed in privacy-critical domains (e.g., healthcare, finance, and government), but their propensity to memorize and disclose personally identifiable information (PII) poses serious security and compliance risks. Existing defenses typically force a trade-off between model utility, privacy protection, and access to fine-tuned private knowledge. We propose LoRA-Oriented Control via Keyed Entry Tokens (
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안

