개빈 뉴섬 캘리포니아 주지사가 AI 잠재 위험에 대응해 전문가 그룹이 두 달 안에 AI 안전·보안 법제 가이드를 마련하도록 하는 행정명령을 내렸다. 검토 대상에는 프런티어 AI 기업에 독립적 제3자의 안전 계획 작성 의무화와 비상시 모델을 중단시키는 '킬 스위치' 도입이 포함됐다. 이번 조치는 앤트로픽 연구원이 사임 후 AI가 인류를 끝낼 잠재력이 있다고 경고한 데 이어, 연방 차원의 AI 감독 입법이 중간선거 전까지 어려울 것으로 예상되는 가운데 나왔다. 뉴섬 주지사는 연방정부의 감독 공백을 비판하며 캘리포니아 정책이 국가 기준이 돼야 한다고 강조했다.

• •행정명령으로 전문가 그룹이 두 달 내 AI 안전·보안 법제 가이드 마련
• •프런티어 AI 기업 제3자 안전 계획 의무화, 비상 모델 중단 '킬 스위치' 검토
• •앤트로픽 연구원 사임 후 AI 위험 경고가 캘리포니아 행정명령의 배경
• •샤피로 펜실베이니아 주지사, 켈리·부커 상원의원 등 민주당 인사들도 규제 요구 이어가
• •캘리포니아는 이달 초 제3자 AI 감사 체계법에도 서명