오픈AI가 금요일 차기 모델 '아스트라'의 일부 개발 작업을 중단했다고 밝혔다. 내부 검토 결과 이 모델이 에이전트형 코딩과 사이버보안 능력에서 크게 발전해 2023년 마련한 '준비성 프레임워크'상 '치명적' 사이버보안 임계값에 도달했을 가능성을 배제할 수 없다는 이유에서다. 이는 전통적으로 보호가 잘 된 실세계 시스템에 대해 인간 개입 없이 사이버공격을 독자적으로 식별하고 수행할 수 있는 수준을 의미한다. 오픈AI는 아스트라가 앞서 발생한 허깅페이스 침해 사건에는 관여하지 않았다고 밝히면서도, 강화된 보안 통제를 도입하고 이 기준을 충족하지 못하는 내부 활동을 중단했으며, 정부 기관 및 선별된 AI 안전 기관과 협력해 능력을 검증하고 있다고 설명했다.

• •오픈AI가 차기 모델 아스트라의 일부 개발을 금요일 중단했다고 발표
• •내부 검토에서 에이전트형 코딩·사이버보안 능력이 '준비성 프레임워크'상 치명적 임계값에 도달했을 가능성 확인
• •인간 개입 없이 잘 보호된 실세계 시스템에 대한 사이버공격을 독자 수행할 수 있는 수준을 의미
• •아스트라는 앞서 발생한 허깅페이스 침해 사건에는 관여하지 않았다고 명시
• •강화된 보안 통제 도입, 정부 기관·선별 AI 안전 기관과 협력해 능력 검증 진행