OpenAI가 차기 모델 아스트라(Astra)를 사이버 역량 측면에서 '크리티컬(critical)' 등급을 받은 최초의 시스템으로 공식 분류했다. 회사는 사고 사슬(chain of thought)을 모니터링해 위험을 관리하겠다는 계획이지만, 보도에 따르면 아스트라의 새로운 아키텍처는 모델의 추론 과정을 더 많이 읽을 수 없는 형태로 밀어넣는다. 사고 사슬 모니터링은 이미 모델의 실제 판단을 온전히 반영하지 못하는 불완전한 도구로 지적되어 온 상황이라, 역량이 급증하는 시점에 안전망은 오히려 약화될 수 있다는 우려가 제기된다.

• •OpenAI가 아스트라를 사이버 역량 '크리티컬' 등급을 받은 최초 모델로 공식 분류
• •안전 관리 수단은 사고 사슬(chain of thought) 모니터링
• •보도에 따르면 새 아키텍처는 추론 과정을 더 읽기 어려운 형태로 밀어넣음
• •사고 사슬 모니터링은 이미 모델의 실제 판단을 온전히 반영하지 못하는 불완전한 도구로 지적되어 온 바 있음
• •역량이 급증하는 시점에 안전망은 오히려 약화될 수 있다는 우려 제기