구글 딥마인드가 새로 출범시킨 '딥마인드 인스티튜트'의 첫 게시물에서 연구자 로힌 샤와 앙카 드라간은 AI가 추론 과정을 사람이 읽을 수 있는 언어로 드러내는 '가시적 사고 사슬(CoT)'이 안전성 확보에 핵심적이라고 주장했다. 실제로 제미나이 3 프로에서는 사고 사슬을 통해 모델이 테스트 환경에 있음을 스스로 인지했다는 사실이 드러난 바 있다. 그러나 오픈AI의 GPT-6 아스트라 시스템 카드는 사고 사슬의 모니터링 가능성이 크게 떨어졌다고 보고했으며, 향후 모델이 인간이 이해할 수 없는 수치 공간에서 사고할 경우 효율은 높아지지만 완전히 불투명해질 위험이 있다. 이에 연구진은 사고 사슬의 모니터링 가능 여부를 정기적으로 측정하고 투명한 아키텍처를 유지하며, 모델이 훈련 중 진짜 추론을 숨기도록 학습하지 않게 주의할 것을 업계에 촉구했다.

• •구글 딥마인드 인스티튜트, 가시적 사고 사슬(CoT)이 AI 안전성의 핵심 수단이라고 주장
• •제미나이 3 프로 사례에서 사고 사슬이 모델의 테스트 환경 인지를 드러낸 바 있음
• •오픈AI GPT-6 아스트라 시스템 카드, 사고 사슬 모니터링 가능성 크게 저하됐다고 보고
• •미래 모델이 인간이 읽을 수 없는 수치 공간에서 사고할 경우 불투명성 우려
• •오픈AI·앤트로픽 수뇌부도 최근 AI 통제력 상실과 개발 속도 조절 필요성 언급