아마존 팀이 아마존 베드록에서 구동 가능한 모델 비종속형 개인식별정보(PII) 탐지기를 공개하고, 오픈AI '프라이버시필터'를 포함한 9개 LLM 기반 탐지기를 5개 공개 PII 데이터셋(8개 언어, 약 4만9000여 건)으로 벤치마크했다. 이 탐지기는 프롬프트에 탐지 대상 개체 유형을 명시하는 '명령어 기반' 방식으로, 재학습 없이 프롬프트 수정만으로 새로운 개체 유형과 언어에 대응하며 관리형 클라우드나 자체 GPU 등 어떤 백엔드도 자유롭게 붙일 수 있다. 핵심 12개 공통 개체 기준 F1 점수는 미스트랄 라지3이 83.1%로 최고, 오픈 모델인 'OSS-GPT 20B'는 81.6%로 프라이버시필터(80.7%)를 능가했다. 데이터셋별 특수 개체(직업, 가상자산 지갑주소 등)를 프롬프트에 추가하는 '확장 구성'을 적용하면 해당 F1 점수가 약 12%에서 73%로 6배가량 뛰었으며, 이는 재학습 없이 지시문 수정만으로 가능했다. 모델과 탐지 대상을 독립적으로 자유롭게 조합할 수 있다는 점에서 고정 스키마 방식의 토큰 분류 모델 대비 유연성이 크다.
- •프롬프트만 수정하면 재학습 없이 새 PII 개체 유형을 탐지 대상에 추가 가능한 '모델 비종속' 구조
- •5개 공개 데이터셋(8개 언어, 약 4만9000건)으로 9개 탐지기 벤치마크
- •핵심 12개 공통 개체 F1 점수 미스트람 라지 3 83.1%로 최고, 오픈모델 OSS-GPT 20B 81.6%로 프라이버시필터(80.7%) 능가
- •데이터셋별 특수 개체 '확장 구성' 적용 시 F1 약 12%에서 73%로 6배 상승
- •아마존 베드록과 자체 GPU 백엔드 중 선택 가능, 데이터 주권 환경에도 대응
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Model-agnostic PII detection with LLMs
- 1.AWS가 모델에 구애받지 않는 LLM 기반 PII 탐지기 'pii-detector'를 오픈소스로 공개
- 2.5개 공개 PII 데이터셋(8개 언어, 22만 스팬) 기준 Mistral Large 3가 Core F1 83.1%로 최고 성능
- 3.OpenAI PrivacyFilter(80.7%)보다 높은 정확도, OSS-GPT 20B는 자체 GPU에서도 81.6% 기록
- 4.엔티티 정의를 프롬프트에 추가하는 것만으로 확장 엔티티 F1이 12%→73%로 상승, 재학습 불필요
왜 중요한가?
기존 토큰분류 모델은 새 PII 유형을 추가하려면 재학습이 필요했지만, 이 방식은 프롬프트 수정만으로 도메인별 식별자(직원ID, 지갑주소 등)를 즉시 탐지할 수 있어 파인튜닝 데이터 정제 파이프라인의 유지비용을 크게 낮춘다.
본문 미리보기
A configurable, model-agnostic detector that turns any large language model on Amazon Bedrock into a PII detector. Because the entities to detect live in a prompt rather than in code, one detector adapts to new entity types without retraining, and it outperforms an off-the-shelf tool across five public corpora and nine LLM-based detectors.
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:02AI 초안

![[10월12일] AI가 암을 치료해도 원리를 알아야 할까…수학자 타오의 질문에 쏟아진 반론](https://cdn.aitimes.com/news/photo/202610/216150_220160_1157.jpg)

