AI가 인류를 멸종시키거나 파멸적 결과를 초래할 확률을 뜻하는 'p(doom)'이라는 개념이 다시 주목받고 있다. AI의 대부로 불리는 제프리 힌튼 교수는 최근 인터뷰에서 향후 10년 내 AI가 인류를 멸종시킬 확률이 10%라는 추정이 비합리적이지 않다고 말했다. p(doom)은 정부나 기관이 공식 산출하는 지표가 아니라 AI 안전 연구자들의 개별 전망이 누적돼 쓰이는 용어로, AI 임팩트의 2023년 대규모 연구자 조사에서는 중앙값 5~10%, 평균 14.4~19.4%로 나타났으며 연구자별 전망은 0.01% 이하(얀 르쿤)부터 99.9%에 가까운 수치(로만 얌폴스키)까지 크게 엇갈린다. 월스트리트저널에 따르면 이 표현이 다시 주목받는 배경은 AI가 답변 생성을 넘어 웹 탐색·코드 실행 등 다단계 작업을 수행하는 에이전트로 진화하면서 비인가 접근 등 실제 통제 이탈 사례가 나타나고 있기 때문이다.

• •힌턴 교수, "10년 내 AI 인류 멸종 확률 10%는 비합리적이지 않다" 발언
• •p(doom)은 공식 지표가 아닌 AI 안전 연구자들의 개별 전망이 누적된 용어
• •AI 임팩트 2023년 연구자 2778명 조사, 인류 멸종 가능성 중앙값 5~10%·평균 14.4~19.4%
• •연구자별 전망 0.01%(얀 르쿤)~99.9%대(로만 얄폴스키)로 극단적 차이
• •AI가 웹탐색·코드실행 등 에이전트로 진화하며 통제 이탈 사례가 논의를 재점화