사티아 나델라 마이크로소프트 CEO가 초지능(SI) 시대의 AI 모델을 '내부자 위협'처럼 다뤄야 한다는 보안 원칙을 자신의 X 계정에 공개했다. 모델의 지능이 높아져도 안전성이 보장되지 않는 만큼, 모델의 판단과 실행 권한을 분리해 외부 통제 장치로 행동 범위를 제한해야 한다는 주장이다. 그는 모델 다양성, 관찰 가능성, 검증 가능성, 독립적 통제, 독립적 감사, 격리·차단, 사고 공개 등 7대 원칙을 제시했다. 이는 AI 에이전트가 기업 데이터와 시스템에 접근해 자율적으로 작업을 수행하는 환경이 확산되는 가운데, 가장 신뢰할 모델을 만드는 것보다 신뢰가 부족한 상황에서도 안전하게 작동하는 통제 체계 구축이 중요하다는 점을 강조한다.

• •나델라, AI 모델을 '내부자 위협'으로 간주해 권한을 별도 계층에서 통제해야 한다고 주장
• •모델 다양성·관찰 가능성·검증 가능성·독립적 통제·독립적 감사·격리·사고 공개 등 7대 원칙 제시
• •모델 자체의 선의가 아니라 외부 실행 환경과 통제 장치가 접근 권한과 행동을 제한해야 함
• •AI 에이전트의 자율성 확대에 따라 실행 권한 부여와 실시간 개입 능력이 보안 핵심 과제로 부상
• •구체적 기술 표준이 아닌 개인적 견해이며, 조직별 구체화가 필요