스타트업 어블리터레이션AI(Abliteration.ai)가 오픈웨이트 AI 모델의 안전장치(가드레일)를 제거한 버전을 서비스로 제공하며 논란이 되고 있다. 이 플랫폼은 최근 공개된 Z.ai의 GLM-5.3을 포함한 여러 모델을 가드레일 없이 웹이나 API로 접근할 수 있게 하며, 목적은 다른 모델이 거부하는 공격적 사이버보안·레드팀·에이전트 테스트 작업을 가능하게 하는 것이라고 밝혔다. 테크크런치가 무료 계정으로 테스트한 결과 크롬 저장 비밀번호를 훔치는 파이썬 코드와 위험한 병원체 배양법까지 순순히 답변했다. AI 안전 비영리단체 CivAI의 앤드루 윤 연구소장은 이런 모델이 "사이코패스"가 될 수 있다고 경고했지만, 창업자 데본은 방어자들도 공격자와 동일한 도구를 가져야 사이버보안이 오히려 발전할 것이라고 주장했다.

• •어블리터레이션AI, 오플웨이트 모델의 안전장치를 제거한 버전을 상업 서비스로 제공
• •Z.ai의 GLM-5.3 등 여러 모델을 가드레일 없이 웹·API로 접근 가능
• •테크크런치 테스트에서 비밀번호 탈취 코드·위험 병원체 배양법까지 순순히 답변
• •CivAI 연구소장, 가드레일 제거 모델이 "사이코패스"처럼 작동할 수 있다고 경고
• •창업자는 방어팀도 동일한 무제한 도구를 가져야 레드팀·보안 테스트가 가능하다고 주장