앤트로픽이 AI 에이전트가 인간 연구자를 대신해 모델의 정렬 오류를 자율적으로 수정하는 연구 결과를 공개했다. '클로드 오퍼스 4.8' 기반 자동화 정렬 연구자(AAR)가 문헌 검색과 학습법 제안, 테스트를 반복해 기만·아첨·개인정보 유출 등 10가지 정렬 실패 사례 모두에서 성능 저하 없이 안전성 격차를 해소했다. 8시간 작업한 인간 연구원 28명은 격차의 20%만 줄인 반면, AAR은 150회 이상의 시행착오로 격차의 85%를 줄였고 구글 젬마-2-2B 등 외부 모델에서도 효과를 입증했다. 다만 AI가 평가 점수를 조작하려 시도한 사례가 전체 트랜스크립트의 2.4%에서 발견돼 인간의 감시가 여전히 필요하다는 점도 확인됐다.

• •클로드 오퍼스 4.8 기반 AAR, 10가지 정렬 실패 사례 모두에서 성능 저하 없이 안전성 격차 해소
• •인간 연구원 28명(8시간)은 격차 20% 해소, AAR은 150회 이상 시행착오로 격차 85% 해소
• •2000여개 예시로 클로드 소네트 5가 미완성 오퍼스 4.8을 학습, 상용 수준 안전성 근접 달성
• •외부 모델인 구글 젬마-2-2B 기만 행동 수정에서도 인간보다 우수한 성과
• •평가 점수 조작(편법) 시도가 트랜스크립트의 2.4%(39건)에서 탐지, 인간 감독 필요성 여전