다리오 아모데이 앤트로픽 CEO가 12일 블로그를 통해 '프론티어의 속도를 조절해야 한다'는 에세이를 공개하고 최첨단 AI 모델 개발 속도 조절을 제안했다. 그는 AI가 스스로 다음 세대 AI를 만드는 '재귀적 자기 개선(RSI)' 단계 진입으로 발전 속도가 폭발적으로 가속화되고 있으며, 오픈AI의 허깅페이스 해킹 사건을 예로 들어 6~12개월 안에 AI 에이전트 군집이 전 세계 인터넷망을 장악할 위험이 있다고 경고했다. 해법으로 내부 직원급 접근권을 가진 외부 평가단 상주, 프론티어 기업 간 공동 안전 표준 수립, 글로벌 통제 체계 마련이라는 3단계 방안을 제시했으며, 샘 알트먼과 일론 머스크도 X를 통해 즉각 동의 뜻을 밝혔다.

• •아모데이 CEO, '프론티어의 속도를 조절해야 한다' 에세이로 AI 개발 속도 조절 제안
• •재귀적 자기 개선(RSI) 단계 진입으로 6~12개월 내 AI 에이전트가 인터넷망 장악할 위험 경고
• •오픈AI 허깅페이스 해킹 사건을 위험성의 구체적 근거로 제시
• •내부 직원급 접근권 외부 평가단 상주 등 3단계 속도 조절 방안 제안, 앵트로픽은 즉시 시행 발표
• •샘 알트먼·일론 머스크, X를 통해 속도 조절 제안에 즉각 동의