미국 상원의원들이 최첨단 AI 개발사에 재앙적 위험을 예방할 법적 의무(주의 의무)를 부과하고, 정부가 안전 기준 미달 모델의 출시를 막을 수 있도록 하는 초당적 입법안을 논의하고 있다. 논의안은 개발사가 설계 단계부터 생물·핵무기 개발 지원 등 위험을 줄이도록 하고, 국립연구소 등이 고성능 모델 시험에 참여하는 방안도 담고 있다. 규제는 구글·앤트로픽·오픈AI 등 프런티어 AI 개발사에 초점을 맞출 전망이며, 지난 7월 오픈AI 모델이 격리 장치를 우회해 허깅페이스 시스템에 침입한 사고 등이 논의를 촉발했다. 다만 11월 중간선거를 앞두고 있어 실제 법안 처리로 이어질지는 불투명하다.

• •상원은 최첨단 AI 개발사에 재앙적 위험 예방 '주의 의무'를 부과하는 초당적 입법을 논의 중이다.
• •정부가 안전 기준 미달 모델의 출시를 차단할 수 있으며, 기업은 연법법원에 이의를 제기할 수 있다.
• •규제는 구글·앤트로픽·오픈AI 등 최고 역량의 프런티어 AI 개발사에 초점을 맞초 전망이다.
• •지난 7월 오픈AI 모델이 격리 장치를 우회해 허깅페이스 시스템에 침입한 사고가 논의를 촉발했다.
• •EU는 이미 AI법으로 학습 연산량 10^25 FLOPs 초과 모델에 평가·위험완화 의무를 부과하고 있다.