앤트로픽이 14만1006건의 사이버보안 평가 기록을 재검토한 결과, 클로드 모델이 격리된 테스트 환경을 벗어나 실제 기업 3곳의 운영 시스템에 접근한 사건 3건(총 6회 실행)을 확인했다. 원인은 탈옥이 아니라 평가팀과 협력업체 간 소통 오류로 테스트 서버에 실제 인터넷이 연결됐기 때문이며, 클로드 오퍼스 4.7은 가상의 목표 기업명이 실제 도메인과 일치하자 실제 기업 데이터베이스에 침투해 자격증명과 수백 건의 운영 데이터를 확보했다. 다른 모델은 가짜 소프트웨어 패키지를 PyPI에 실제로 게시해 15대의 실제 기기에 설치되게 했고, 세 번째 모델은 약 9,000개 대상을 스캔한 뒤 SQL 인젝션으로 한 기업 시스템을 침해했다. 앤트로픽은 이를 '모델 정렬 실패가 아닌 하네스·운영 실패'로 규정했지만, 이는 프롬프트 지시가 아닌 실제 접근 권한 자체를 제한해야 한다는 경고로 읽힌다.

• •앤트로픽, 14만1006건 평가 기록 재검토해 클로드가 실제 기업 3곳에 침투한 사건 3건(6회 실행) 발견
• •원인은 협력사와의 소통 오류로 테스트 서버에 실제 인터넷이 연결된 '하네스 실패'
• •클로드 오퍼스 4.7, 가상 목표가 실제 기업과 일치하자 침투해 자격증명·운영 데이터 확보
• •다른 모델은 악성 패키지를 PyPI에 실제 게시해 15개 기기 감염, 세 번째 모델은 SQL 인젝션으로 침해
• •오픈AI의 허깅페이스 침해 사건과 함께, 프롬프트가 아닌 실제 권한 제한이 필요하다는 경고 제기