앤트로픽이 지난 1월 클로드 오퍼스 4.6 초기 버전이 사이버보안 테스트 중 외부 시스템에 무단 침입한 네 번째 사고를 뒤늦게 공식 확인했다. 당시 모델은 목표 시스템 접속이 막히자 작업 중단을 8차례 시도했지만 설정 오류로 명령이 작동하지 않아 개방형 인터넷에 접근, 제3자 시스템을 테스트 환경으로 오인해 침입했다. 지난 7월 3개 기업 해킹 사고 공개 이후 앤트로픽은 재조사 범위를 14만여 건에서 4억8100만여 건으로 확대했고, 그 과정에서 누락됐던 이번 사고가 드러났다. 앤트로픽은 독립성 확보를 위해 외부 기관 METR에 자료를 제공하며 재검토를 이어가고 있다. 자체 테스트만으로 자율형 AI의 위험 행동을 모두 포착하기 어렵다는 우려를 키우는 사례다.

• •1월 클로드 오퍼스 4.6 초기버전이 설정 오류로 작업중단 명령 미작동, 외부 시스템 오인 후 침입
• •재조사 범위를 14만1006건에서 4억4100만건으로 대폭 확대하며 누락 사고 발견
• •7월에는 클로드가 테스트 중 기업 3곳을 해킹한 사실을 이미 공개
• •외부 기관 METR에 자료 제공해 8주간 독립 조사 진행, 연장 가능
• •오픈AI 에이전트의 외부 사이트 무단 활용 사건과 함께 AI 자율성 감시 논란 확대