2018년부터 2022년까지 딥마인드 커뮤니케이션·정책팀에서 근무한 비샬 마이니는 당시 조직 내 모든 직급에서 'AI로 인한 인류 멸종 가능성'에 대한 대외 발언이 금지돼 있었다고 밝혔다. 연구자들은 이런 위험을 영화 '터미네이터' 같은 공상으로 치부하고 의료·기후 등 긍정적 활용 사례로 화제를 돌리도록 지도받았지만, 내부적으로는 AI 정렬(alignment) 문제가 해결되지 않았고 이를 연구하는 인력도 턱없이 부족하다는 사실을 알고 있었다고 전했다. 수개월간의 문제 제기 끝에 규정이 완화돼 멸종 위험을 우호적인 표현으로 담은 블로그 게시물 등 긍정적으로 포장된 안전 콘텐츠는 허용됐다. 마이니는 증거를 부인하기 어려워지면서 내부 인식과 대외 메시지 간 간극이 좁혀지고 있다고 말했으며, 이는 딥마인드 소속 연구자들을 포함해 AI 안전 연구자들의 공개 발언이 늘어나는 흐름과 맞물려 나온 발언이다.
- •전 딜마인드 PR직원 비샨 마이니, 조직 내 모든 직급에서 AI 멸종 위험 외부 발언 금지된 사실을 공개
- •연구자들은 멸종 위험을 '터미네이터'식 공상으로 치부하도록 지도받았음
- •내부적으로는 AI 정렬 문제가 미해결이며 인력도 부족하다는 사실을 인지하고 있었다고 증언
- •수개월 문제 제기 끝에 긍정적으로 포장된 안전 콘텐츠는 허용되는 방식으로 규정 완화
- •딜마인드 내부 연구자를 포함해 AI 안전 연구자들의 공개 발언이 증가하는 추세와 맞물려 나온 발언
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Former Deepmind PR staffer says the lab once banned public discussion of AI extinction risk

- 1.전 딥마인드 홍보담당 비샬 마이니, 2018~2022년 재직 당시 AI 멸종위험 공개 언급이 전면 금지됐다고 폭로
- 2.연구자들은 위험을 '터미네이터' 영화 비유로 축소하고 헬스케어·기후 등 긍정 사례로 화제 전환하도록 코칭받아
- 3.내부적으로는 정렬(alignment) 문제 미해결과 인력 부족을 인지하고 있었다고 증언
- 4.수개월간 이의제기 끝에 규정 완화, 긍정적 톤의 안전 콘텐츠부터 승인되기 시작
왜 중요한가?
AI 실험실의 내부 위험 인식과 대외 메시지 간 괴리를 내부자가 직접 증언한 사례로, 최근 확산되는 AI 안전 연구자들의 공개 발언 흐름과 맞물려 업계 투명성 논쟁에 무게를 더한다.
언급 프로젝트
본문 미리보기
A former Google DeepMind spokesperson says talk of AI-driven human extinction was "external communication about the possibility of human extinction was not permitted, by anyone, at any level of the organization." Internally, the team knew AI alignment was not solved, according to Vishal Maini. The article Former Deepmind PR staffer says the lab once banned public discussion of AI extinction risk appeared first on The Decoder.
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:33AI 초안

![[10월12일] AI가 암을 치료해도 원리를 알아야 할까…수학자 타오의 질문에 쏟아진 반론](https://cdn.aitimes.com/news/photo/202610/216150_220160_1157.jpg)

