앤트로픽과 오픈AI 등 주요 AI 기업들이 향후 6개월~1년 내 치명적인 AI 사고가 발생할 수 있다고 보고 비공개 위기대응 시나리오를 검토하고 있다. 악시오스에 따르면 금융망·전력망 마비 등 대규모 인프라 사고 이후 벌어질 대중 분노와 규제 역풍에 대비해 정책 대응안을 미리 마련하는 전략이다. 실제로 중국 해커가 딥시크 등 중국산 AI로 한국 금융기관 고객정보를 탈취한 사례가 위험 수위를 보여줬다는 평가도 나온다. 업계는 11월 중간선거 이후 의회가 AI 전면 금지로 치달을 가능성을 우려해, 사고 발생 전에 '킬 스위치' 등 규제 틀을 선제적으로 조율하려 하고 있다.

• •오픈AI·앤트로픽 등이 6~12개월 내 치명적 AI 사고 발생을 가정해 비공개 위기대응 시나리오 검토
• •예상 시나리오는 금융망·전력망·상수도 등 대규모 인프라 마비, 악성 에이전트 무리나 악의적 오용이 원인
• •중국 해커가 딥시크 등 중국산 AI로 한국 금융기관 고객정보 탈취한 사례가 위험성 입증
• •11월 중간선거 후 의회의 AI 전면 금지 가능성에 대비해 '킬 스위치' 등 규제 틀 선제 대응 추진
• •오픈AI는 공식 대비훈련이라 해명, 앤트로픽은 논평 거부