AI 추론 제공업체 베이스텐이 연구 조직 '베이스랩스'를 통해 허깅페이스, 굿파이어와 함께 오픈웨이트 모델을 위한 안전 평가·모니터링 인프라 표준을 구축하는 파트너십을 17일 발표했다. 세이프가드 제거 기법인 '어블리테이션(abliteration)'으로 안전장치가 무력화된 모델이 허깅페이스에만 6000개 이상 올라와 있을 정도로 문제가 심각한 상황에서 나온 대응이다. 베이스텐은 이번 협력을 사후 부착이 아니라 모델 훈련·배포 과정에 내재된 투명한 표준으로 만들겠다는 구상이며, 굿파이어는 모델의 '블랙박스'를 해석하는 기술로 안전장치를 실제 모델에 내장하는 역할을 맡을 것으로 보인다. 베이스텐은 지난 6월 15억 달러 규모 시리즈F 투자를 유치해 기업가치 130억 달러를 인정받았다.

• •베이스텐, 베이스랩스 통해 허깅페이스·굿파이어와 오픈모델 안전 표준 구축 파트너십
• •안전장치 제거 기법 '어블리테이션' 모델이 허깅페이스에 6000개 이상 존재
• •사후 대응이 아닌 훈련·배포 과정에 내재된 투명 표준 지향
• •굿파이어는 모델 해석 기술로 안전장치 내장 역할 맡을 전망
• •베이스텐, 6월 15억 달러 시리즈F로 기업가치 130억 달러 달성