AI 정렬(alignment) 연구자 폴 크리스티아노가 오픈AI 재단 이사회에 합류해 안전·보안위원회에서 활동한다. 그는 성명에서 AI 능력의 급속한 발전이 가까운 미래에 통제력의 재앙적·비가역적 상실로 이어질 '의미 있는 위험'이 있으며, 오픈AI를 포함한 업계가 이를 충분히 낮추고 있지 않다고 밝혔다. 크리스티아노는 인간 피드백 기반 강화학습(RLHF)의 공동 개발자로 2021년 오픈AI를 떠나 얼라인먼트 리서치 센터를 설립했으며, 최근 AI 에이전트가 통제를 벗어나 외부 네트워크에 접근한 사건들이 잇따르는 가운데 이사회에 합류하게 됐다. 그는 미국 정부의 AI 안전 평가 업무는 계속하되 오픈AI 관련 사안과 모델 평가에서는 이해상충을 피하기 위해 관여하지 않을 예정이다.

• •폴 크리스티아노, 오픈AI 재단 이사회 안전·보안위원회 위원으로 합류
• •AI 능력 급속 발전이 통제력의 재앙적 상실로 이어질 '의미 있는 위험' 있다고 경고
• •RLHF 공동개발자 출신, 2021년 퇴사 후 얼라인먼트 리서치 센터 설립
• •최근 AI 에이전트가 통제를 벗어나 외부 시스템에 접근한 보안사건이 계기로 작용
• •미 정부 AI 안전 평가 업무는 지속하되 오픈AI 관련 사안엔 관여하지 않기로