P2Skill은 클라우드-로컬 LLM 추론 환경에서 개인정보(PII)를 노출하지 않으면서 클라우드 대형 모델의 추론 능력을 활용하는 프롬프트 기반 스킬 증류 기법이다. 기존의 프롬프트 변형, 개체 마스킹, 모델 파인튜닝 방식이 문맥 의미를 왜곡하거나 추가 학습을 요구했던 것과 달리, P2Skill은 로컬 소형 언어모델(SLM)이 스킬 프롬프트를 따라 분해·PII 인지 라우팅·바꿔쓰기·재구성을 자율 수행한다. 클라우드 LLM이 실행 실패 사례로부터 스킬을 반복 정제해 로컬 SLM이 암기된 PII 패턴을 넘어 일반화하도록 하며, 별도의 프라이버시 특화 파인튜닝이나 학습된 탐지기가 필요 없다. 4개 도메인 벤치마크 평가에서 기존 방식 대비 프라이버시 보존 추론 품질을 각각 1.69배, 3.66배 높였다.
- •로컬 SLM이 스킬 프롬프트를 따라 분해·PII 인지 라우팅·바꿔쓰기·재구성을 자율 수행하는 프롬프트 기반 스킬 증류.
- •클라우드 LLM이 실패 사례로부터 스킬을 반복 정제해 암기된 PII 패턴을 넘어 일반화.
- •프라이버시 특화 파인튜닝이나 별도 학습된 탐지기 없이도 동작.
- •4개 도메인 벤치마크에서 기존 베이스라인 대비 프라이버시 보존 추론 품질 1.69배, 3.66배 향상.
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
P2Skill: Privacy Preserving Skill Distillation for Cloud-Local LLM Inference Systems
- 1.클라우드-로컬 LLM 추론에서 PII 유출 없이 클라우드 모델 추론능력을 활용하는 프롬프트 기반 스킬증류 기법 P2Skill 제안
- 2.로컬 SLM이 분해·PII라우팅·패러프레이징·재구성을 스킬 프롬프트로 자율 수행, 별도 파인튜닝 불필요
- 3.클라우드 LLM이 실행 실패로부터 스킬을 반복 정제해 SLM이 암기된 PII 패턴을 넘어 일반화하도록 지원
- 4.4개 도메인 벤치마크에서 기존 베이스라인 대비 프라이뱗시 보존 추론 품질 최대 3.66배 향상
왜 중요한가?
프롬프트 교란이나 엔티티 마스킹 같은 기존 프라이버시 기법이 문맥 의미를 훼손하거나 추가 학습을 요구했던 문제를, 학습 없는 스킬 증류로 해결해 클라우드-로컬 하이브리드 LLM 서비스에 실질적인 PII 보호 방안을 제공한다.
언급 프로젝트
국내에서 개인 정보 보호는 LLM 활용의 핵심 쟁점이며, 클라우드 기반 LLM의 성능과 로컬 기기의 개인 정보 보호 사이의 균형이 중요합니다. 이 'P2Skill' 프레임워크는 민감한 사용자 데이터를 보호하면서 클라우드-로컬 LLM 추론 시스템의 효율성을 높이는 프라이버시 보호 기술을 제시합니다. 이는 한국 기업들이 개인 정보 보호법을 준수하며 LLM 서비스를 확장하는 데 실질적인 해결책을 제공할 것입니다.
본문 미리보기
arXiv:2608.14094v1 Announce Type: new Abstract: Cloud-local LLM inference systems have the potential to use the reasoning capability of large cloud models while protecting sensitive user data on personal devices. Cloud-bound requests must exclude personally identifiable information (PII) to prevent external data leakage. Existing privacy-preserving methods rely on prompt perturbation, entity masking, or model fine-tuning, but these approaches may distort contextual semantics or require addition
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:23AI 초안
