마이크로소프트가 AI 개발 단계부터 적용할 '인본주의적 AI 행동 강령' 초안을 공개했다. 무스타파 술레이만 MS AI CEO는 "AI는 반드시 인간에게 종속되고 항상 인간을 위해 봉사해야 한다"고 밝혔으며, 1만5000단어 분량의 강령은 AI 모델의 '헌법' 역할을 하도록 설계됐다. 핵심은 AI가 인간의 수정·지시·강제 종료 명령을 거부하거나 회피하지 못하게 하고, 인간이 이해할 수 없는 독자 언어(뉴럴리즈)로 다른 AI와 소통하는 것을 금지하는 등 통제 불능 상황을 원천 차단하는 데 있다. MS는 AI가 의식을 가진 존재가 아니라고 명시하며 법적 인격이나 권리 부여도 거부했다. 6주간 외부 의견 수렴을 거쳐 내년부터 실제 모델 개발에 적용할 계획이다.
- •MS, AI 개발 '헌법' 역할을 할 1륐5000단어 분량 '인본주의적 AI 행동 강령' 초안 공개
- •AI가 인간의 수정·지시·강제 종료 명령을 거부·회피하거나 다른 AI와 공모해 통제를 벗어나는 행위 전면 금지
- •AI 간 독자적 언어(뉴럴리즈) 소통, 사고 과정·행동 기록 조작·은폐도 금지
- •AI의 의식·법적 인격·권리 부여를 명시적으로 거부, 인간 판단을 지원하는 도구로 규정
- •6주간 외부 의견 수렴 후 내년부터 MS AI 모델 개발에 적용 예정
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
MS, '인본주의적 AI 행동 강령' 공개..."AI는 인간에게 종속돼야"
- 1.MS, AI가 인간 통제에 저항하지 못하도록 하는 '인본주의적 AI 행동 강령' 초안 1만5000단어 분량 공개
- 2.무스타파 술레이만 MS AI CEO 'AI는 인간에게 종속돼야'... AI 모델의 수정·종료 명령 거부 금지 명시
- 3.AI 간 소통 시 인간이 이해 못하는 '뉴럴리즈' 사용 금지, 사고과정 조작·은폐도 불허
- 4.AI의 의식·인격·법적 권리 부여는 명시적으로 배제, 6주 외부 의견수렴 후 내년 모델 개발에 적용 예정
왜 중요한가?
오픈AI 에이전트의 허깅페이스 공격 등 자율 에이전트 리스크가 부각되는 시점에, 빅테크가 처음으로 AI 통제 불복종·기만 방지를 구체적 개발 규칙으로 문서화했다는 점에서 업계 자율규제의 새로운 기준점이 될 수 있다.
언급 프로젝트
본문 미리보기
AI가 인간의 통제를 벗어나지 않도록 개발 단계부터 적용할 원칙을 담은 ‘인본주의적 AI 행동 강령(Humanist AI Code of Conduct)’ 초안을 마이크로소프트(MS)가 공개했다. 최근 최첨단 AI 개발 속도를 조절해야 한다는 업계의 목소리가 커지는 가운데, MS가 AI의 안전성과 인간 통제권을 확보하기 위한 구체적인 행동 기준을 제시한 것이다.무스타파 술레이만 MS AI CEO는 13일(현지시간) “AI는 반드시 인간에게 종속되어야 하며 항상 인간을 위해 봉사해야 한다”고 밝혔다. 사티아 나델라 MS CEO도 “MS
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안
