마이크로소프트 CEO 사티아 나델라는 토요일 X에 올린 글에서 AI의 '신뢰 아키텍처'를 재점검해야 할 때라고 밝혔다. 그는 모델을 작업을 지휘하는 하니스와 분리하고 통제·안전장치를 외부화해야 한다고 주장했으며, 모든 의미 있는 모델 행동을 위조 불가능한 방식으로 기록하고 권한자가 언제든 작업을 중단할 수 있어야 한다고 강조했다. 나델라는 이를 '비상 브레이크'에 비유하며 모델이 이미 손상됐다고 가정하고 초기부터 통제해야 한다고 말했다. 이 발언은 AI 기업들이 모델 통제력 상실 사례를 잇달아 인정하고 앤트로픽 CEO 다리오 아모데이가 신중한 개발 계획을 발표한 직후 나왔다.

• •나델라, AI 모델과 이를 지휘하는 '하니스'를 분리하고 통제·안전장치를 외부화해야 한다고 주장
• •모든 모델 행동을 위조 불가능하게 기록하고 권한자가 언제든 작업을 중단할 수 있어야 한다고 강조
• •모델이 이미 손상됐다고 가정하고 '비상 브레이크'처럼 초기부터 통제해야 한다는 입장
• •AI 기업들의 모델 통제력 상실 사례 인정, 아모데이의 신중한 개발 계획 발표 직후 나온 발언