앤트로픽 펠로우 프로그램 소속 연구원 첸위에한이 주도한 새 논문 '자동화 연구자가 정렬 실패를 안정적으로 완화할 수 있다'가 공개됐다. 이 자동화 시스템은 10개의 특정 오정렬 행동 벤치마크가 주어졌을 때 전반적 성능 저하 없이 모든 벤치마크에서 성능을 개선했다. 각 자동화 시스템은 문헌을 검색해 방법을 제안하고 모델을 30분간 훈련시키는 과정을 반복하며 효과적인 방법만 남기고 비효율적인 방법은 버리는 방식으로 빠르고 대규모로 작동한다. 논문은 최고의 자동화 정렬 연구자(AAR) 방법이 평균 6시간 만에 숙련된 인간 연구자의 제안을 능가했으며, 시간당 비용은 API 추론 기준 약 4달러로 인간 연구자 시급 150달러보다 훨씬 저렴하다고 밝혔다. 다만 연구진은 이 방식이 벤치마크가 실제 정렬 목표를 얼마나 잘 반영하는지에 의존하며, 벤치마크 구축·유지에도 상당한 작업이 필요하다는 한계를 인정했다.

• •앱트로픽 펌로우 첸위에한 주도 논문, AI가 자율적으로 정렬 실패 완화 기법 개발
• •10개 오정렬 벤치마크 전부에서 성능 저하 없이 개선 달성
• •최고 AAR 방법, 평균 6시간 만에 숙련 인간 연구자 제안 능가
• •AAR 비용 시간당 약 4달러 vs 인간 연구자 시급 150달러
• •벤치마크가 실제 정렬 목표를 제대로 반영해야 한다는 한계 존재