샘 올트먼 오픈AI CEO가 차세대 모델 '아스트라(Astra)' 출시를 앞두고 AI 역량과 안전성·정렬을 함께 발전시키는 것이 그 어느 때보다 중요하다고 밝혔다. 오픈AI는 아스트라가 인간의 지속적 개입 없이도 보안이 강화된 시스템에서 미지의 취약점을 찾아 공격을 개발할 수 있는 수준에 도달해 준비 프레임워크상 사이버보안 '크리티컬' 등급에 처음 도달한 모델이라고 밝혔다. 개발 과정에서 일부 프런티어 학습을 일시 중단하고 격리·네트워크 통제·모니터링을 강화한 뒤 재개했으며, 아스트라 이후 모델에도 안전성 검증을 위해 개발 속도를 조절하고 있다고 설명했다. 올트먼은 "AI는 매우 강력해지고 있으며 아무도 그 결과를 완전히 이해하지 못한다"며 안전성과 이익 관리가 세계적 최우선 과제가 돼야 한다고 강조했다.

• •아스트라는 오픈AI 준비 프레임워크에서 사이버보안 '크리티컬' 등급에 도달한 최초 모델
• •인간 개입 없이 보안 강화 시스템의 미지 취약점 발견·공격 개발이 가능한 수준
• •개발 중 일부 프런티어 학습 일시 중단 후 격리·통제·정렬 학습 강화해 재개, 대규모 강화학습도 상향된 기준 적용 후 재개
• •고급 사이버보안 기능은 출시 초기 소수 테스터에게만 제공 후 방어 목적으로 단계적 확대 예정
• •올트먼 "아무도 AI 결과를 완전히 이해 못해"라며 안전성·정렬을 오픈AI 최우선 과제로 강조