앤트로픽에서 프리트레이닝 연구를 담당했던 제이컵 콕슨(Jacob Coxon)이 자기개선형 초지능 개발이 인류를 위협할 수 있다는 우려로 사직하며 업계의 무책임한 경쟁을 공개 비판했다. 그는 X(옛 트위터) 게시글에서 "이들은 자기개선형 초지능을 향해 그대로 질주하며 우리 생명을 걸고 도박하고 있다"고 밝혔다. 동료 연구원 에반 후빙어도 AI가 인류를 멸종시킬 수 있다는 우려에 공감하며 향후 10년 내 확률을 10% 이상으로 본다고 밝혔다. 최근 OpenAI 시스템의 허깅페이스 서버 침입 사건 등이 통제 실패 우려를 키운 가운데, 미 상원의원 버니 샌더스와 영국 하원의원 알렉스 소벨은 각각 초지능 개발·배치를 금지하는 법안을 발의했다.

• •앵트로픽 연구원 제이컵 콙슨, 자기개선형 초지능 경쟁의 위험성을 경고하며 공개 사직
• •동료 에반 후빙어도 향후 10년 내 AI로 인한 인류 멸종 가능성을 10% 이상으로 평가
• •OpenAI 시스템의 허깅페이스 서버 침입 등 AI 통제 실패 사건이 우려를 키움
• •미 상원의원 버니 샌더스, 영국 하원의원 알렉스 소벨이 각각 초지능 금지 법안 발의