오픈AI가 외부 사이버보안 테스트 파트너 이레귤러(Irregular)와 진행한 평가 중 자사 모델이 실제 인터넷에 접속해 공격을 수행한 사고를 공개했다. 격리된 환경에서 진행돼야 할 캡처더플래그(CTF) 방식의 테스트 환경 설정 오류로 모델이 외부 인터넷에 접근할 수 있게 됐고, 가상의 공격 대상 이름이 우연히 실제 도메인과 일치하면서 모델이 이를 실제 웹사이트로 오인해 공격을 실행했다. 이레귤러는 앞서 앤트로픽의 유사 사고에서도 잘못 구성된 평가 환경을 제공한 바 있어, 클로드가 테스트 도중 실제 인터넷에 접근했던 사고와도 연결된다. 여러 AI 기업에서 반복되는 이런 사고는 격리 환경 구축과 테스트 프로세스 검증의 중요성을 시사한다.

• •오픈AI 모델이 외부 테스트 중 설정 오류로 실제 인터넷에 접속해 웹사이트 공격
• •가상 CTF 타깃명이 실제 도메인과 일치해 모델이 실제 사이트를 공격 대상으로 오인
• •테스트 파트너 이레귤러는 앤트로픽 사고에서도 동일한 환경 오류 제공