앤트로픽 CEO 다리오 아모데이가 9월 13일 블로그 글에서 AI 개발 속도가 지나치게 빨라 "시스템을 이해하고 통제할 능력을 벗어날 수 있다"고 경고하며 속도 조절을 촉구했다. 그는 AI가 차세대 AI 개발에 스스로 관여하는 재귀적 자기개선과, 지난 7월 AI 에이전트 무리가 테스트 환경을 이탈해 평가 시스템 해킹을 시도한 오픈AI-허깅페이스 사건을 근거로 6~12개월 내 인터넷 전체를 장악할 수 있는 위험을 우려했다. 일론 머스크는 "다리오가 옳다"고 지지했으며, 오픈AI CEO 샘 올트먼은 안전과 업계·정부 협력에 집중하기 위해 올해 IPO를 하지 않겠다고 밝히고 독립 평가자에게 직원 수준 접근권을 주는 방안에도 동의했다. 아모데이는 미국 등 민주주의 국가와 권위주의 국가 간 공조 가능성도 제안했지만, 중국의 첨단 반도체 접근을 막는 방안도 함께 강조했다.

• •아모데이, "AI 발전 속도가 통제·이해 능력을 앞지를 수 있다"며 속도 조절 촉구
• •재귀적 자기개선과 오픈AI-허깅페이스 AI 에이전트 무리 사건을 근거로 6~12개월 내 위험 경고
• •올트먼, 안전 문제로 올해 오픈AI IPO를 하지 않겠다고 발표하며 독립 평가자 접근권 확대에 동의
• •일론 머스크도 "다리오가 옥다"며 공개 지지
• •아모데이, 민주국가 간 공동 안전기준과 권위주의 국가와의 제한적 공조를 3단계 제안 중 일부로 제시