오픈AI에서 3년6개월간 AI 안전 업무를 담당했던 데이비드 로빈슨이 퇴사하며 빠른 제품 개발을 중시하는 회사 문화가 안전 실패 위험을 키울 수 있다고 비판했다고 로이터를 인용해 블록미디어가 보도했다. 그는 디애틀랜틱 기고문에서 오픈AI가 문제 발생 후 안전장치를 강화하는 '반복적 배포' 방식에 지나치게 의존하고 있다며, 고도화된 AI에는 핵발전·항공 산업 수준의 안전장치가 필요하다고 주장했다. 로빈슨은 회사의 '준비 프레임워크' 작성에 참여하고 12개 프런티어 모델 출시 안전 보고서를 감독한 베테랑으로, AI 능력 발전 속도가 정렬(alignment) 연구를 앞지르고 있다는 점도 위험 요인으로 지목했다. 오픈AI는 모델 능력이 안전 관리 가능 수준을 넘지 않도록 통제하며 필요시 훈련을 중단하거나 출시를 보류하고 있다고 반박했다.
- •오픈AI 안전 눈띔 바티띑 데이문띔 로뿪제거띔, 3뉘 6강월 긴뫼 후 쬌사 후 조직 뫼화 뿐띔
- •"시흔챐오의 시기 왘띔띔"뿐두 헉발띔·향국 왔업앀 강띔의 안전장쮘 흔요성 주장
- •제허은 갰쮜 출시요 뿐제거 발생 시 띔강쬁쬁띔 '버뿪적 띔부' 방식에 띓띔 의존흘띔지 지전
- •AI 띔띔의 뿐전사거 정요(alignment) 왘구띔 암지띔고 있다띔 위헨성띔 제기
- •오픈AI, 필요시 흔띔 중띔·쮜시 띔띔띔 안전 구띔 중이끐 반뿨
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
“출시 경쟁에 밀린 AI 안전”… 오픈AI 핵심 인력, 퇴사하며 폭로
- 1.오픈AI서 3년6개월간 AI 안전 업무를 맡은 데이비드 로빈슨, 퇴사 후 안전문화 비판
- 2.그는 '시행착오 시기는 끝났다'며 핵발전·항공 수준 다중 안전장치 필요성 주장
- 3.오픈AI는 '안전 관리 가능한 수준을 넘지 않도록 통제하며 필요시 훈련·출시 보류한다'고 반박
- 4.로빈슨, AI 역량 발전 속도가 정렬 연구 속도를 추월하고 있다는 점을 핵심 위험으로 지목
왜 중요한가?
안전 책임자의 공개 비판과 회사측 반박이 공개적으로 맞서는 모습은, AI 기업 자율규제에 대한 외부 검증 요구가 커지고 있음을 보여주며 향후 규제 논의의 근거로 활용될 수 있다.
언급 프로젝트
본문 미리보기
[멕시코=심영재 특파원] 오픈AI에서 3년6개월 동안 인공지능(AI) 안전 업무를 담당한 데이비드 로빈슨이 회사를 떠나면서 빠른 제품 개발을 중시하는 오픈AI의 문화가 안전 실패 위험을 키울 수 있다고 비판했다. 그는 고도화된 AI에는 핵발전이나 항공 산업에 준하는 안전장치가 필요하다고 주장했다. 오픈AI는 필요할 경우 모델 훈련이나 출시를 늦추고 있다고 반박했다. “출시에서 다음 출시로 질주…충분한 주의 못 기울여” 로이터가 3일(현지시각) 보도한 [...]
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:23AI 초안
