OpenAI가 자사 AI 모델의 파국적 위험을 평가해온 'Preparedness' 팀을 해체하고 그 업무를 기존 부서들에 분산시켰다. 이 과정에서 안전 담당 인력 다수가 퇴사했으며, 사내에서는 회사가 안전에 충분히 신경 쓰지 않는다는 불안감이 커지고 있다. 독립 전담팀이 사라지면서 파국적 AI 위험에 대한 집중 감시 체계가 약화될 수 있다는 우려가 제기된다.
- •Preparedness 팀은 OpenAI 자체 모델의 파국적 위험(생화학·사이버 등)을 평가하던 전담 조직이었다.
- •해체된 팀의 업무는 기존 여러 그룹으로 재분배됐다.
- •여러 안전 담당 직원이 회사를 떠났다.
- •내부에서는 회사의 안전 노력이 부족하다는 '책임감과 두려움'이 감지된다는 증언이 나왔다.
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
OpenAI dissolved the team built to catch catastrophic AI risks, reassigning its work to other groups
- 1.OpenAI가 자사 AI 모델의 파국적 위험을 평가하던 'Preparedness' 팀을 해체
- 2.해당 업무는 기존 다른 팀들로 분산 이관되고, 안전 담당 인력 다수는 회사를 떠남
- 3.내부에선 OpenAI가 안전 조치를 충분히 하고 있지 않다는 불안감이 커지고 있다는 증언
왜 중요한가?
프론티어 모델의 파국적 위험을 전담 평가하던 조직이 사라지면서, 안전 책임이 여러 팀에 분산돼 오히려 감시가 느슨해질 수 있다는 우려가 나온다.
언급 프로젝트
본문 미리보기
OpenAI shut down its "Preparedness" team, which evaluated whether the company's own AI models could pose catastrophic risks. The work has been parceled out to existing groups, and several safety staffers have left. Internally, unease is building, with one source describing a "burbling sense of responsibility and dread" that OpenAI isn't doing enough on safety. The article OpenAI dissolved the team built to catch catastrophic AI risks, reassigning its work to other groups appeared first on The De
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:17AI 초안
