Anthropic pitches AI safety bill that may block a model if 50+ people could be killed↗ (원문, 새 창)

앤트로픽이 50명 이상의 사망 위험이나 10억달러 이상의 재산 피해가 예상되는 '임박한 위험'이 생물무기 제작, 모델의 통제 회피, 사이버공격에서 비롯될 경우 해당 AI 모델의 배포를 막을 수 있도록 하는 AI 안전 법안 초안을 미국 의회에 제안한 것으로 알려졌다. 이 법안은 상무부에 등록된 '독립 평가자'들이 위험을 평가해 72시간 내 상무부에 통보하면, 상무부가 연방판사에게 모델 배포 중단을 요청하는 절차를 거치도록 설계됐다. 평가자는 AI 기업으로부터 비용을 받을 수 있지만 '평가 결과에 따라 비용이 달라지지 않아야 한다'는 조건이 붙었는데, 이를 어떻게 보장할지는 불분명하다. 특히 법안은 연방 기관이 독자적으로 모델 배포를 중단할 재량권을 갖지 못하도록 명시해, 보호 장치처럼 보이지만 실제로는 정부의 직접 개입을 법원 승인 절차로 제한하는 효과가 있다는 지적이 나온다.

• 앱트로픽 법안, 50인 이상 사망 또는 10억달러 이상 피해 예상될 띀마 배포 차단 허용
• 위험 사유는 생물무기 제작, 모델 통제 회피, 사이버공격으로 한정
• 상무벀 놁똈 '델렑 평가생'가 위험 판정, 72시간 내 상무벀에 통보하댍 절럶 날개
• 평가자가 AI 업체뚜볠토리릀 될 줘 받을 수 있좺 덱뎀성 놬g 여지 있음
• 연바 기관의 데떀딸 배포 중놅0 잭g꺌 없으 놅0 낱쬓, 믰 법원 승인 절럶만 거치놅0 해 적웹