오픈AI가 EU AI법 준수를 위해 챗GPT 텍스트에 보이지 않는 워터마크 기술 '텍스트그레인(textGrain)'을 도입하되, 앤트로픽과 달리 API 고객에게는 전 세계적으로 선택적(옵트인) 적용만 허용하기로 했다. 탐지율은 400토큰 분량의 심리학 관련 텍스트 기준 약 95%였지만 200토큰에서는 80%로 낮아지고, 수학 콘텐츠처럼 단어 선택의 자유도가 낮은 글에서는 탐지율이 훨씬 떨어진다. 단어의 10%만 동의어로 바꿔도 탐지율이 92%에서 66%로, 25%를 바꾸면 17%까지 떨어져 편집에 취약하다는 한계도 드러났다. 오픈AI는 프론티어 모델 아스트라의 8개 벤치마크 테스트에서 워터마크가 출력 품질에 의미 있는 영향을 주지 않았다고 밝혔으며, 탐지기 접근은 우선 선별된 연구자와 전문기관에만 제공할 계획이다.
- •오픈AI, EU AI법 대응해 챗GPT에 비가시 워터마크 '텍스트그레인' 도입, API는 전 세계 옵트인
- •400토큰 심리학 텍스트 탐지율 약 95%, 200토큰은 80%, 수학 등 콘텐츠는 탐지율 더 낮음
- •단어 10% 동의어 교체 시 탐지율 92%→66%, 25% 교체 시 17%까지 급락
- •프론티어 모델 아스트라의 8개 벤치마크(GPQA Diamond 등)에서 워터마크로 인한 성능 저하 없음 확인
- •탐지기는 우선 신청한 연구자·전문기관에만 제한적으로 제공
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
OpenAI will watermark ChatGPT text in the EU but makes it optional for API users worldwide
본문 미리보기
OpenAI is adding invisible textGrain watermarks to ChatGPT in the EU, but unlike Anthropic, it will let API customers worldwide opt out. Tests show detection rates as high as 95 percent, dropping to 17 percent when a quarter of the words are replaced. The article OpenAI will watermark ChatGPT text in the EU but makes it optional for API users worldwide appeared first on The Decoder.
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:33AI 초안
