앤트로픽이 '클로드 페이블 5'의 생물학 안전 분류기를 재훈련해 정상 질문을 위험 요청으로 오판해 저성능 모델(오퍼스 5)로 전환하던 '폴백' 현상을 약 85% 줄였다. 초기에는 생물학 관련 요청 대부분을 광범위하게 차단해 검사 결과 해석이나 건강 상식, 생물학 교육 같은 저위험 질문까지 오탐이 발생했으나, 이번 개선으로 이런 영역의 접근 제한이 크게 완화됐다. 다만 바이러스학·독성학·분자 설계 등 이중용도 우려가 큰 전문 생물학 연구와 신약 개발 관련 요청은 여전히 오퍼스 5로 전환되는 제한이 유지된다. 앤트로픽은 향후 신뢰할 수 있는 연구자·기관 대상 '신뢰 기반 접근' 프로그램을 통해 최첨단 생물학 능력에 대한 접근을 단계적으로 확대할 계획이다.

• •생물학 관련 폴백(저성능 모델 전환) 현상이 제품 전반에서 약 85% 감소
• •검사결과 해석, 건강 상식, 생물학 교육 등 저위험 영역에서 오탐이 크게 줄어든 사용자 경험 개선
• •바이러스학·독성학·분자 설계 등 이중용도 우려가 큰 전문 연구·신약개발은 여전히 제한
• •안전 분류기의 판단 기준을 재정비하고 학습 데이터를 다시 구축해 재훈련하는 방식으로 개선
• •향후 신뢰 기반 접근(trusted access) 프로그램을 통해 검증된 연구자에게 단계적으로 접근 확대 계획