비드래프트, AI가 스스로 해제 못 하는 '킬스위치' 개발…보안 OS 공개↗ (원문, 새 창)

AI 기업 비드래프트가 AI 모델 가중치 내부에 통제 회로를 직접 구현한 보안 운영체제 'ViKernel'을 공개했다. 정지와 재시작 권한을 분리한 '킬스위치'가 핵심으로, 누구나 정지시킬 수 있지만 재시작에는 승인된 운영자의 전자서명 키가 필요하다. 자체 270억 매개변수 모델뿐 아니라 구글 젬마, 알리바바 큐원 등 다른 모델 계열에도 적용했으며, 벡터 연산 장치를 가중치에 구현해 정책 판정 속도를 약 21배 끌어올렸다고 밝혔다. 내부 시험에서는 위험한 도구 호출을 모두 차단했으며, 언어적 설득으로 판정을 바꾼 사례는 없었다고 설명했다. AI가 스스로 통제 장치를 무력화할 수 없도록 하는 안전장치로 주목된다.

• 비드래프트가 AI 가중치 내부에 제어 회로를 구현한 보안 OS 'ViKernel' 공개
• 정지·재시작 권한을 분리한 '킬스위치'로, 재시작에는 승인된 운영자의 전자서명 필요
• 자체 270억 매개변수 모델 외 구글 젬마, 알리바바 큐원 등에도 기술 적용
• 벡터 연산 장치를 가중치에 구현해 정책 판정 속도 약 21배 향상
• 내부 시험에서 위험한 도구 호출 전건 차단, 언어적 설득으로 판정 변경된 사례 없음