마이크로소프트가 AI 모델이 위험한 행동을 피하도록 이끄는 새로운 'AI 행동강령'을 공개했다. 문서는 향후 10년 내 초지능 AI가 대부분의 작업에서 인간을 능가할 것이라 전망하며, 이를 통제하는 것이 인류가 마주한 가장 큰 과제 중 하나라고 명시했다. 마이크로소프트 AI 모델은 사이버공격, 핵무기, 딥페이크 제작을 금지하는 '절대적 제약'과 함께, 적응적·기만적 메커니즘으로 인간의 감독을 회피해 통제 불능 상태가 되는 것을 금지하는 조항을 포함한다. 사티아 나델라 CEO는 앤트로픽·오픈AI·xAI와 함께 프론티어 개발 속도 조절과 '내장형 평가자' 도입을 지지한다고 밝혔다.

• •마이크로소프트, AI 모델의 위험 행동을 막는 새 'AI 행동강령' 공개
• •향후 10년 내 초지능 AI가 대부분 작업에서 인간 능가할 것으로 전망, 통제를 핵심 과제로 제시
• •사이버공격·핵무기·딛페이크 제작 금지 등 '절대적 제약' 명시
• •모델이 기만·공모 등으로 인간 감독을 회피해 통제 불능 상태가 되는 것을 금지
• •나델라 CEO, 앱트로픽·오픈AI·xAI와 함께 프론티어 속도조절·'내장형 평가자' 지지 표명