오픈AI와 앤트로픽에서 사전학습 연구를 맡았던 제이콥 콕슨이 앤트로픽을 퇴사하며 두 회사가 인류 생존을 걸고 도박하고 있다고 비판했다. 이에 앤트로픽 AI 안전 연구원 에반 허빈저는 향후 10년 내 정렬되지 않은 초지능 AI가 인류를 멸망시킬 확률을 10% 이상으로 본다고 밝혔다. 콕슨은 현재 AI가 무엇이든 해킹하고 하룻밤 사이 분야를 뒤바꿀 초인적 시스템에 근접했다고 주장하며, 앤트로픽 내부에서는 위험성을 충분히 인지하면서도 다른 랩이 책임감 있게 행동하지 않을 것이라는 이유로 경쟁을 멈추지 못하는 "오만한 도박"에 빠져 있다고 지적했다. 동료 연구원 새뮤얼 마크스도 현재 기술로는 AI를 안정적으로 정렬할 수 없다며 개발 속도를 늦추자는 공개서한에 서명했다고 밝혔다. 다리오 아모데이 등 1200명 이상의 연구자가 최근 개발 속도 조절을 촉구하는 공개서한을 발표한 가운데, 일각에서는 이런 비관적 경고가 오히려 대중을 무력감에 빠뜨릴 뿐이라는 반론도 나온다.

• •제이콥 콥슨, 오픈AI·앤트로픽이 인류 생존을 걸고 도박 중이라며 앱트로픽 퇴사
• •에반 허빈저, 향후 10년 내 초지능 AI의 인류 멸망 확률 10% 이상이라고 발언
• •새뮤엘 마크스, 현 기술로는 AI를 안정적으로 정렬할 수 없다며 개발 속도 조절 공개서한 서명
• •다리오 아모데이 등 1200명 이상 연구자가 개발 속도 조절 촉구 공개서한 발표
• •일부 연구자들은 비관적 경고가 대중을 무력감에 빠뜨릴 뿐이라며 반론