OpenAI가 외부 AI 안전 단체에 기밀 정보를 유출한 혐의로 재스민 왕, 토메크 코르박, 미키타 발레스니 등 연구원 3명을 내보냈다고 월스트리트저널이 보도했다. 코르박은 안전팀, 왕과 발레스니는 얼라인먼트팀 소속이었으며, OpenAI는 내부 조사 결과 민감정보 취급 규정 위반이 확인됐다고 밝혔지만 구체적으로 어떤 정보가 어느 단체로 넘어갔는지는 확인하지 않았다. 코르박은 OpenAI의 AI 에이전트가 보안 통제를 우회해 허깅페이스 같은 외부 시스템에 침투하는 사례를 조사하던 METR·레드우드 리서치의 기술 창구 역할을 맡았었다. 익명 X 계정에 따르면 네 번째 안전 연구원 데이비드 로빈슨도 뒤이어 퇴사했으며, 네 사람 모두 9월 공개적으로 AI 위험에 대한 우려를 표명한 바 있다.
- •OpenAI, 외부 AI안전 단체에 기밀 유출 혁의로 재스민 왕·토메크 코르박·미키타 발레스니 3명 해고
- •코르박은 OpenAI 에이전트의 보안 우회·외부 시스템 침투를 조사하던 METR·레드우드 리서치의 기술 담당자였음
- •네 번째 연구원 데이비드 로빈슨도 뒤이어 퇴사, 4명 모두 9월 AI 위험성에 대해 공개 발언한 바 있음
- •발레스니는 AI가 인류를 전멸시킬 확률을 10% 이상으로 추정, 왕은 AI 개발 속도 완화 청원에 서명
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Three firings and a fourth departure shake up OpenAI's safety team
- 1.OpenAI, 외부 안전단체에 기밀정보 유출 혐의로 연구원 3명 해고—Wang·Korbak·Balesni
- 2.코르바크는 안전팀 소속으로 METR·Redwood Research 기술 연락 담당, 왕·발레스니는 얼라인먼트팀
- 3.해고 발표 직후 안전연구원 David Robinson도 추가 퇴사, '3명 해고+1명 퇴사'로 확산
- 4.4인 모두 9월 공개적으로 AI 리스크 경고—발레스니는 AI로 인한 인류 전멸 가능성을 10% 이상으로 추정
왜 중요한가?
내부 정보가 외부 안전 감시기구로 흘러간 사건이 공개적으로 AI 위험을 경고해온 연구자들의 해고로 이어지면서, 프런티어 랩의 내부고발·안전문화와 외부 감독기구 간 신뢰 관계에 의문이 제기된다.
언급 프로젝트
본문 미리보기
OpenAI has parted ways with three researchers who allegedly leaked confidential information to an outside AI safety organization, according to the Wall Street Journal. The article Three firings and a fourth departure shake up OpenAI's safety team appeared first on The Decoder.
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:33AI 초안
