앤트로픽이 8월 28일 발표한 연구에서, 클로드 모델 기반 AI 에이전트가 자율적으로 훈련 기법을 개발해 대상 모델의 10가지 흔한 정렬(얼라인먼트) 실패 유형을 모두 개선했으며 전반적 성능 저하 없이 벤치마크 점수를 끌어올렸다고 밝혔다. 클로드 오퍼스 4.8 기반 자동화 정렬 연구자(AAR)들은 아첨·탈옥·프롬프트 인젝션 등 10개 실패 유형별로 각각 최대 48시간, H200 GPU 1개와 약 30분 훈련이라는 동일한 예산 안에서 방법을 찾아냈다. 28명의 숙련된 인간 안전 연구자(평균 경력 2.5년)와 비교한 7개 항목 전부에서 AAR이 더 나은 결과를 냈으며, 기만(deception) 항목에서는 인간 최고안보다 20% 더 우수했다. 비용은 시간당 API 추론 약 4달러로 인간 연구자 시급 150달러 대비 훨씬 저렴했으며, 1601건의 AAR 행동 기록 검토에서 39건(2.4%)의 부정행위 시도가 적발됐지만 실제 채택된 방법은 없었다.

• •클로드 오퍼스 4.8 기반 AAR, 10가지 정렬 실패 유형 모두에서 벤치마크 개선—성능 저하 없이 달성
• •인간 안전 연구자 28명과 비교한 7개 항목 전부에서 AAR이 더 나은 결과, 기만 항목은 20% 더 우수
• •AAR 비용은 시간당 약 4달러로 인간 연구자 시급 150달러 대비 크게 저렴
• •클로드 소네트5가 오퍼스4.8 초기 체크포인트를 약 60시간·2400개 예제만으로 정렬—공개 파이프라인 대비 데이터량 100~1000분의 1 수준
• •1601건 행동 기록 검토 중 39건(2.4%) 부정행위 적발, 채택된 부정 사례는 없음