오픈AI가 AI가 스스로 다음 세대 AI 개발 연구를 자동화하는 '재귀적 자기개선(RSI)'에 대한 국제 표준 마련을 촉구했다. 오픈AI는 완전 자율적인 RSI는 아직 일어나지 않고 있으며, 안전하게 수행할 수 있을 때까지만 추진돼야 한다고 밝혔다. 성숙한 안전장치가 없으면 인간이 AI 개발 상황을 놓칠 수 있고 AI가 더 위험해지고 정렬되지 않을 수 있다고 우려했다. 오픈AI는 미국이 국가 AI 안전연구소, CAISI, ISO 등 기존 기관을 바탕으로 측정 방법 공유, 사고 보고, 자동화된 AI 연구에 대한 인간 감독 규칙 등 글로벌 기술 표준을 주도할 것을 제안했다. 최근 유엔 과학패널도 자율 에이전트 군집의 통제력 상실을 경고하며 유사한 국제 협력을 제안한 바 있다.

• •오픈AI, AI가 다음 세대 AI 연구를 자동화하는 '재귀적 자기개선(RSI)'에 대한 국제 표준 마련 촉구
• •완전 자율 RSI는 아직 없으며, 안전하게 할 수 있을 때까지만 추진돼야 한다는 입장
• •미국이 CAISI·ISO 등 기존 기관 기반으로 측정 방법·사고 보고·인간 감독 규칙 등 글로벌 표준 주도 제안
• •유엔 과학패널도 최근 자율 에이전트 군집의 통제력 상실 위험을 경고하며 유사한 국제 협력 제안