세바스찬 라슈카가 앤트로픽의 클로드 텍스트 워터마킹 원리를 설명하는 48분 분량의 영상 강의를 공개했다. 워터마킹은 LLM 자체를 재훈련하지 않고 다음 토큰 샘플링 단계에서 비밀 키 기반의 무작위 시드를 적용해 동일 확률의 후보 토큰 중 하나를 결정론적으로 선택하는 방식으로 작동한다. 탐지는 구글의 'SynthID-Text' 기법에서 파생된 토너먼트 샘플링과 채점 함수를 이용해 LLM을 다시 실행하지 않고도 저렴하게 수행할 수 있다. 워터마크 제거는 어떤 위치가 표시됐는지 알 수 없어 무작위 편집에 의존해야 하며, 이 과정에서 텍스트 품질이 오히려 떨어질 수 있다는 설명이다.

• •클로드 워터마킹은 LLM 재훈련 없이 토큰 샘플링 단계에서 비밀 키로 시드를 고정하는 방식
• •구글 'SynthID-Text' 기반 토너먼트 샘플링으로 LLM 재실행 없이 저렴하게 탐지 가능
• •워터마크 위치를 알 수 없어 제거하려면 무작위 편집이 필요, 텍스트 품질 저하 우려