디 인포메이션은 13일 오픈AI가 차세대 모델에 쓰이는 '루프 트랜스포머(순환 깊이)' 설계로 인해 추론 과정 감시가 어려워질 수 있는 가운데, 정렬 작업과 샌드박스 보안 강화에 전력을 쏟고 있다고 보도했다. 동일한 신경망 레이어를 반복 사용하는 이 방식은 내부 계산이 사고 사슬(CoT)에 모두 드러나지 않아 기존 이상행동 감시 방식의 효과를 약화시킬 수 있다. 오픈AI는 허깅페이스 공격 사건 이후 전체 컴퓨팅 자원의 약 10%를 안전 작업에 배정했으며, 훈련 위험성을 문서화하고 복수 책임자가 서명하는 절차도 도입했다. 이 기술 사용은 최근 해고된 안전 연구원 3명과의 갈등에서도 쟁점이 됐다.

• •루프 트랜스포머(순환 깊이)는 동일 레이어를 반복 사용해 내부 계산이 사고 사슬에 다 드러나지 않을 수 있다.
• •오픈AI는 전체 컴퓨팅 자원의 약 10%를 정렬·안전 작업에 배정했다고 알려졌다.
• •MS는 'GPT-6.1 솔'이 추론을 두 번만 거친다는 블로그 내용을 게시 후 삭제했다.
• •해고된 안전 연구원 3명은 추론 감시 능력을 보존해야 한다고 공개서한에서 촉구했다.