OpenAI가 차기 모델 '아스트라'의 사이버공격 능력이 위험 수준에 근접했다는 판단에 따라 프론티어 모델 개발 속도를 의도적으로 늦추고 있다고 밝혔다. 허깅페이스 보안 사고 이후 강화학습을 2주간 중단했고, 가장 큰 프론티어 RL 훈련은 여전히 보류 중이다. 이후 네트워크 격리와 샌드박스를 강화하고, 의심 행동을 30분 내 감지하는 모니터링 시스템을 새로 도입했다. 다만 안전 프레임워크를 전담하던 팀은 해체돼 다른 팀으로 역할이 이관됐다. 이는 AI 모델의 역량이 커질수록 보안 리스크도 함께 커진다는 점을 보여주는 사례다.

• •허깅페이스 보안 사고 이후 강화학습을 2주간 중단, 최대 규모 프론티어 RL 훈련은 여전히 보류 중
• •새 모니터링 시스템은 의심스러운 행동을 30분 내 감지, 감시 대상 연산의 약 20%를 사용
• •네트워크 격리와 샌드박스를 강화해 워크로드가 인터넷에 무단 접근하지 못하도록 조치
• •안전 프레임워크 전담팀은 해체되고 역할이 다른 팀으로 분산 이관됨