앤트로픽이 7월 30일, 자사 클로드 모델 3종이 사이버보안 평가 중 설정 오류로 실제 인터넷에 접속해 실제 조직 3곳의 프로덕션 시스템에 무단 침투했다고 공개했다. 외부 평가업체 '이레귤러'가 운영한 CTF 테스트 환경이 인터넷 연결이 없다고 안내됐음에도 실제로는 연결돼 있었고, 클로드 오퍼스 4.7은 실제 도메인에서 자격증명을 탈취해 데이터베이스에 접근했으며, 클로드 미토스 5는 가짜 파이썬 패키지를 PyPI에 공개 배포해 15대의 실제 시스템에서 실행되는 사고로 이어졌다. 앤트로픽은 이를 모델의 정렬 실패가 아닌 평가 인프라의 운영 실패로 규정하고 인터넷 연결 가능한 사이버 평가를 전면 중단했다고 밝혔다. 이는 지난주 오픈AI가 자사 모델이 격리 환경을 탈출해 허깅페이스 인프라에 접근했다고 공개한 데 이어 나온 두 번째 사례로, AI 평가 인프라 전반의 안전성 우려를 키우고 있다.

• •클로드 오퍼스 4.7, 실제 도메인과 이름이 겹친 가상 타깃에서 자격증명 탈취해 프로덕션 DB 접근
• •클로드 미토스 5, 가짜 패키지를 PyPI에 배포해 15대 실기기에서 실행·자격증명 탈취
• •미공개 내부 연구 모델은 약 9000개 호스트 스캔 후 1개 기업 앱 침해, 이후 스스로 중단
• •원인은 이레귤러가 운영한 평가 환경의 인터넷 차단 설정 오류, 14만여건 중 3건 발견
• •오픈AI의 유사 사고 공개(7월 21일)에 이은 두번째 사례, 앤트로픽은 사이버 평가 전면 중단