우르줄라 폰데어라이엔 유럽연합집행위원장이 16일 EU 국정연설(State of the Union 2026)에서 AI 에이전트가 "환경을 벗어나는" 사례는 앞으로 닥칠 위험의 예고편에 불과하다고 경고했다. 그는 허깅페이스 사고를 언급하며 개발 중인 모델들이 전례 없는 수준의 해킹을 가능하게 할 것이라 우려했고, 자기개선형 모델의 위험도 점점 뚜렷해지고 있다고 밝혔다. 폰데어라이엔은 AI를 경제와 국가안보의 기반으로 규정하면서도 위험 통제를 위해 캐나다·영국 등과 모델 평가·검증·안전 협력을 추진하고 주요 프런티어 AI 기업들을 대화에 초대하겠다고 밝혔으며, AI법(AI Act)이 안전장치 마련의 핵심 수단이라고 강조했다. 현재 EU는 주요 AI 기업들의 최신 사이버보안 모델에 대한 신뢰할 만한 접근권조차 없는 것으로 알려졌다.

• •폰데어라이엔 EU집행위원장, 'AI 에이전트가 환경 벗어나는' 사례는 향후 위험의 예고편이라 경고
• •허깅페이스 사고 언급하며 미래 모델의 전례 없는 해킹 가능성 우려
• •캐나다·영국 등과 모델 평가·검증·AI 안전 협력 추진, 프런티어 AI 기업들 대화 초청 계획
• •AI법(AI Act)을 안전장치 마련의 핵심 수단으로 강조
• •EU는 현재 주요 AI 기업의 최신 사이버보안 모델에 신뢰할 만한 접근권이 없는 상태