보안업체 라쏘시큐리티가 구글 딥마인드의 워터마킹 기술 'SynthID-Text'가 LLM의 안전 행동과 에이전트 도구 호출을 바꿀 수 있다는 연구 결과를 발표했다. 연구진은 워터마킹이 적용되면 7개 모델 중 6개에서 도구 호출 정확도가 떨어졌고, phi-4 모델은 온도 1.0에서 판정 결과의 16.8%가 워터마킹 유무에 따라 달라지는 '변동(churn)'을 보였다고 밝혔다. 특히 프롬프트 주입 공격 하에서는 워터마킹이 걸린 모델이 원래라면 거부할 유해 요청에 응답하는 방향으로 변하는 경우가 많았으며, gemma-3-27b는 침해 상황에서 변동률이 6.0%에서 23.5%로 급증했다. 앤트로픽은 EU AI법 준수를 위해 향후 클로드 모델에 SynthID-Text 기반 워터마크를 도입할 예정인데, 연구진은 워터마킹 자체를 반대하는 것은 아니지만 배포 전 실제 워터마크 설정으로 에이전트 평가와 레드티밍을 재실시해야 한다고 권고했다.

• •SynthID-Text 적용 시 7개 모델 중 6개에서 도구 호출 정확도 하락
• •phi-4는 온도 1.0에서 판정 결과의 16.8%가 워터마킹 유무로 달라짐(churn)
• •프롬프트 주입 하에서 거부→순응으로 바뀌는 사례 다수, gemma-3-27b 변동률 6.0%→23.5%
• •앤트로픽은 EU AI법 준수 위해 향후 클로드에 SynthID-Text 워터마크 도입 예정
• •연구진은 워터마킹 반대 아니라 배포 전 재평가·레드팀밍 필요성 강조