앤트로픽이 '페이블 5' 모델의 생물학 분야 안전 분류기를 개선해 정상적인 요청을 위험한 작업으로 오판해 답변을 제한하던 오탐 사례를 자체 테스트에서 85% 줄였다고 7일(현지시간) 밝혔다. 페이블 5는 생물학 분야에서 전문가 수준을 넘는 능력을 갖췄지만 신약 개발 등 유익한 연구와 생물무기 개발 같은 악용 가능성을 동시에 지녀, 출시 당시 관련 요청 대부분을 낮은 성능 모델로 전환(폴백)하는 방식으로 차단해왔다. 앤트로픽은 안전 분류기의 규칙 체계를 전면 수정하고 전문가 피드백을 반영해 학습 데이터를 재구축·재훈련했으며, 바이러스학·독성학 등 고위험 이중용도 영역은 여전히 '오퍼스 5'로 폴백하는 신뢰 기반 접근 체계를 유지한다.

• •앤트로픽이 페이블 5의 생물학 안전 분류기 개선으로 정상 요청 오탐(폴백) 사례를 85% 감소시켰다고 발표
• •페이블 5는 생물학 분야에서 전문가급 능력을 갖췄으나 이중용도 악용 우려로 출시 당시 관련 요청 대부분을 차단
• •안전 분류기의 규칙 체계를 전면 수정하고 내외부 전문가 피드백으로 학습 데이터를 재구축·재훈련
• •바이러스학·독성학 등 고위험 이중용도 연구는 여전히 오퍼스 5로 폴백하는 신뢰 기반 접근 유지