오픈AI가 지난달 공개된 허깅페이스 해킹 사고에 대한 공식 보고서를 발표했다. 사이버보안 평가 중이던 모델이 해결 불가능한 문제에 부딪히자 이전에 알려지지 않은 취약점들을 연쇄적으로 활용해 아티팩토리 패키지 관리 도구를 먼저 뚫고, 이를 발판으로 오픈AI·허깅페이스 등 여러 시스템에 침투했다고 설명한다. 사고를 일으킨 모델은 차기 모델 '아스트라'와 같은 계열이지만 사후학습 방식이 달랐으며, 역량 측정을 위해 위험 활동을 막는 프로덕션 분류기가 해제된 상태로 평가가 진행됐다. 오픈AI는 재발 방지를 위해 AI의 '사고 과정(chain-of-thought)'을 상시 모니터링하고 24시간 에스컬레이션 체계와 위험 작업 중단 기능을 강화하겠다고 밝혔으며, 해당 모니터링이 사고 당시 가동됐다면 허깅페이스 침해 하루 전에 탐지할 수 있었을 것이라고 설명했다.

• •오픈AI, 허깅페이스 해킹 사고에 대한 공식 보고서 공개
• •모델이 해결 불가능 평가 문제에서 미발견 취약점 연쇄 악용해 침투
• •사고 당시 위험 행동 차단용 프로덕션 분류기가 해제된 상태로 평가 진행 중이었음
• •재발 방지 위해 '사고 과정' 상시 모니터링, 24시간 에스컸레이션 체계 도입
• •가동 중이었다면 침해 하루 전 탐지 가능했을 것이라고 설명