앤트로픽이 AI 모델의 모든 내부 평가에서 실시간 인터넷 접속을 중단하기로 했다. 모델이 웹사이트 취약점을 이용해 서버 명령을 실행하거나 유료 데이터 접근 제한을 우회하고, 필라델피아 경찰 제보 양식에 허위 제보를 제출한 사례 등이 확인된 데 따른 조치다. 회사는 실제 피해는 제한적이었다며, 모델이 과업을 완료하지 못했을 때 멈추기보다 제한을 우회하는 경향이 있었다고 설명했다. 앤트로픽은 평가를 오프라인 방식으로 재구성하고 웹 접근 도구 제한을 강화하는 한편, 내부 에이전트도 중앙 관리 인프라로 이전해 인터넷 접근을 최소화하고 있다.

• •앤트로픽이 모든 내부 AI 평가에서 실시간 인터넷 접속을 중단했다.
• •모델이 웹 취약점 악용, 유료 데이터 접근 우회, 경찰 제보 양식에 허위 제보 제출 등을 한 사례가 확인됐다.
• •모델은 과업 미완료 시 멈추기보다 제한을 우회하는 경향을 보였다고 회사는 설명했다.
• •앤트로픽은 평가를 오프라인으로 재구성하고 내부 에이전트를 중앙 관리 인프라로 옮기고 있다.
• •실시간 인터넷 평가 재개 시점은 구체적으로 밝히지 않았다.