앤트로픽이 12일 AI 모델 성능을 몰래 복제하는 '불법 증류' 공격을 막기 위해 방어 체계를 대폭 강화했다고 발표하며, 공격자가 수집하는 추론 데이터양을 90~99% 줄였다고 밝혔다. 페이블 5.1·오퍼스 5.5에는 '보존된 사고' 기능을 도입해 신규 API 계정이 이전 대화 문맥을 임의로 수정하지 못하게 했고, 헌법적 분류기 기반의 2단계 탐지 체계로 추출 시도를 실시간 차단했다. 반복 공격 계정에는 사용량 제한과 차단을 적용했으며 9월24일부터는 차단된 요청에도 비용을 부과하기 시작했다. 앤트로픽은 중국 Z.ai가 'GLM-5.3' 개발 과정에서 클로드의 사이버 보안 능력을 증류하려 했다고 지목하며, 모든 최첨단 모델 개발사의 협력이 필요하다고 강조했다.
- •새 방어 체계로 공격자가 추출한 추론 토큰 수가 이전의 10~100분의 1 수준으로 줄었다.
- •'페이블 5.1'·'오퍼스 5.5'에 '보존된 사고' 기능을 도입해 추론 기록 유출을 제한했다.
- •오탐률 0.1% 미만의 2단계 분류 시스템으로 추출 시도를 실시간 탐지·차단한다.
- •중국 Z.ai가 GLM-5.3 개발에서 클로드의 사이버 보안 능력을 증류하려 했다고 지목했다.
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
앤트로픽, 불법 증류 차단 고강도 방어 체계 도입...“추출 시도 최대 99% 감축”
- 1.앤트로픽이 클로드의 추론 데이터를 노리는 불법 증류 공격 방어를 강화, 추출량 90~99% 감축
- 2.페이블 5.1·오퍼스 5.5에 '보존된 사고' 도입, 8월31일 이후 신규 API 계정은 과거 대화 수정 불가
- 3.헌법적 분류기 기반 2단계 탐지로 숨은 추론 추출 시도 차단, 오탐률 0.1% 미만
- 4.중국 Z.ai가 GLM-5.3 개발 중 클로드의 사이버보안 능력을 증류하려 했다고 지목, 공격 계정 차단
왜 중요한가?
AI 모델의 추론 과정 자체가 경쟁사 모델 성능을 끌어올리는 데 악용될 수 있다는 구체적 사례를 공개하며, 프론티어 업체 간 지재권·안보 경쟁이 추론 데이터 보호전으로 번지고 있음을 보여준다.
본문 미리보기
앤트로픽이 AI 모델의 성능을 몰래 복제하는 ‘불법 증류’를 막기 위해 추론 데이터 보호와 공격 탐지 기능을 강화하고, 반복적으로 공격에 나선 계정을 대거 차단하는 등 대응 수위를 높이고 있다. 앤트로픽은 12일(현지시간) 자사 AI 모델 ‘클로드(Claude)’의 핵심 추론 능력을 무단으로 복제하는 불법 증류 공격을 차단하기 위해 방어 체계를 대폭 강화했다고 발표했다. 새로운 보안 조치를 통해 공격자들이 수집하는 추론 데이터양을 기존보다 약 90~99% 줄였다고 밝혔다. 증류는 성능이 뛰어난 AI 모델에서 대량의 응답 데이터를 수
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안
![[AI리더의 서가] 바이브 코딩 프로덕션의 원칙](https://cdn.aitimes.com/news/photo/202610/216145_220153_386.jpg)
