연구진은 삭제 공격에 강한 LLM 워터마킹 기법 'RMCW(Reed-Muller Code Watermarking)'를 제안했다. 기존 워터마킹은 토큰이 삭제되면 위치가 흔들려 원래 워터마크 위치와의 정렬이 깨지는 문제가 있는데, RMCW는 전역 코드워드를 복원하는 대신 리드-뮬러 코드워드의 아핀 직선 제한에서 유도되는 리드-솔로몬 일관성을 이용해 살아남은 국소 대수 구조를 탐색한다. 생성 단계에서는 비밀 키 기반 어휘 분할을 통해 시퀀스에 리드-뮬러 구조를 주입하고, 탐지 단계에서는 텍스트를 키 어휘 빈에 매핑한 뒤 벌레캄프-웰치 검사로 국소 부분열의 저차수 일관성을 검사한다. C4·ELI5 데이터셋과 OPT-1.3B, Llama-3.1-8B-Instruct 모델 실험에서 RMCW는 깨끗한 텍스트 탐지력을 유지하면서 여러 삭제·재작성 공격에서 기존 기법보다 우수하거나 동등한 성능을 보였다.
- •삭제 공격 시 토큰 위치 변화로 워터마크 정렬이 깨지는 기존 기법의 한계를 지적
- •리드-뮬러 코드의 아핀 직선 제한에서 유도된 리드-솔로몬 일관성으로 국소 대수 구조 탐색
- •비밀 키 기반 어휘 분할로 생성 시 구조 주입, 탐지 시 벌레캄프-웰치 검사 활용
- •OPT-1.3B·Llama-3.1-8B 실험에서 삭제·재작성 공격에 대해 기존 기법 대비 우수한 견고성 확인
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
RMCW: A Deletion-Robust Watermark Based on Reed--Muller Codes for Language Models
- 1.삭제(deletion) 공격에 강한 LLM 워터마킹 기법 RMCW, Reed-Muller 코드 기반으로 제안
- 2.전역 코드워드 복원 대신 어파인 직선 제약에서 살아남는 국소 Reed-Solomon 일치성을 탐색
- 3.비밀키 기반 어휘 분할로 생성 시 구조 주입, 탐지 시 Berlekamp-Welch 테스트로 국소 일치성 검증
- 4.C4·ELI5 데이터셋, OPT-1.3B·Llama-3.1-8B-Instruct에서 삭제·재작성 공격 전반에 기존 기법과 동등 이상 성능
왜 중요한가?
토큰 위치가 밀리는 삭제 공격은 기존 워터마킹의 가장 큰 약점이었는데, 국소 구조만으로 복원 가능한 설계로 이 취약점을 구조적으로 보완해 실제 생성 텍스트 유통 환경에서의 신뢰성을 높인다.
언급 프로젝트
언어 모델(LLM)이 생성한 텍스트의 출처를 식별하는 워터마킹 기술은 국내에서 AI 생성 콘텐츠의 신뢰성 확보를 위해 매우 중요합니다. 본 연구는 기존 워터마킹의 취약점인 삭제 공격에 강건한 새로운 워터마크 기술을 제시하며, AI 콘텐츠의 무단 도용이나 오정보 확산을 방지하는 데 기여할 수 있습니다. 이는 AI 기술 활용이 확산되는 국내 환경에서 콘텐츠 진위 여부 판별과 저작권 보호에 중요한 시사점을 제공합니다.
본문 미리보기
arXiv:2610.02817v1 Announce Type: new Abstract: Large Language Model (LLM) watermarking provides a lightweight mechanism for identifying text generated by a specific model, but its robustness remains fragile under post-processing attacks. Deletion attacks are particularly challenging because they shift token positions and break the alignment between observed tokens and their original watermark positions. We propose Reed--Muller Code Watermarking (RMCW), an LLM watermarking method based on Reed-
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안
