앤트로픽, 안전 분류기 고도화…'페이블 5' 오탐 답변 거부 85% 줄였다

본문 미리보기

앤트로픽이 ‘페이블 5’의 생물학 분야 안전장치를 대폭 개선했다. 이를 통해 정상적인 생물학 관련 요청을 위험한 작업으로 잘못 판단해 고성능 모델의 답변을 제한하던 오탐(false positive) 문제를 줄여, 연구·의료·교육 분야에서 모델을 활용할 수 있는 범위를 넓혔다.앤트로픽은 7일(현지시간) 최신 AI 모델 페이블 5의 생물학 분야 안전장치를 대폭 개선하면서, 생물학 관련 질문을 정상적인 요청임에도 위험한 것으로 잘못 판단해 답변을 제한하는 사례가 85% 감소했다고 밝혔다. 생물학 관련 요청을 판단하는 ‘안전 분류기(cla