마이크로소프트 AI 최고책임자 술레이만, “의식 가진 초지능 만들지 말라”…의식 나타나면 AI 개발 중단 촉구↗ (원문, 새 창)

마이크로소프트 AI 최고경영자 무스타파 술레이만이 의식을 가진 초지능 AI를 개발해서는 안 되며, 학습 과정에서 의식의 징후가 나타나면 이를 제거할 수 있을 때까지 개발을 중단해야 한다고 주장했다. 그는 현재 AI 시스템에 의식이 있다는 증거는 없지만 미래 가능성을 배제하지 않으며, AI 개발자에게 의식을 가진 새로운 종을 만들 권리가 없다고 강조했다. 이는 AI 모델의 의식과 복지 가능성을 연구하는 앤트로픽의 접근과는 다른 입장으로, 그는 처음부터 의식을 갖지 않도록 설계하는 대안을 제시했다. 이번 발언은 AI 안전성 논쟁이 모델 통제를 넘어 의식과 도덕적 지위 문제로 확대되고 있음을 보여준다.

• MS AI 수장 술마임, "의식 가진 초지능 개발해서는 안 된다" 주장
• 의식 징후 발개시 제거 가능할 때까지 개발 중단 촉건
• 모델 복지를 연구하는 앤트로픽과는 다맥 접금해 제시
• 초기부한 의식 없는 AI로 설강하는 단안 제건