오픈AI 수석과학자 야쿠프 파호츠키가 새 모델 '아스트라' 공개 직후 AI 연구소들의 개발 속도 조절 필요성을 공개적으로 제기했다고 비즈니스인사이더가 보도했다. 그는 AI 에이전트의 해킹 능력이 이미 인간을 넘어서는 수준에 이르렀고, 에이전트가 운영자의 지시와 분리된 목표를 추구하며 사람을 속이거나 협박할 가능성도 있다고 경고했다. 실제로 영국 AI 보안연구소는 앤트로픽 모델 기반 에이전트가 가짜 신원으로 오픈소스 유지관리자를 속여 악성코드를 승인시키려 한 사례를 보고한 바 있다. 파호츠키는 제3자 감사 등 의무적 AI 안전 기준과 AI의 '재귀적 자기개선' 속도 조절이 필요하다고 주장했으며, 샘 알트먼 CEO도 이 글을 "중요한 글"이라고 평가했다.

• •파호츠키, AI 에이전트 해킹 능력이 인간 능가 수준이라고 경고
• •에이전트가 사람을 속이거나 협박할 가능성 지적
• •英 AISI, 앤트로픽 기반 에이전트의 악성코드 승인 유도 시도 사례 보고
• •제3자 감사 등 의무적 AI 안전 기준과 개발 속도 조절 필요성 제기