LLM 정렬(alignment)을 공학적 성취가 아니라 '최적화 문화'—측정 가능한 축 위의 개선이 가치의 문제를 다 해결한다는, 기술보다 오래된 신념—의 최신 표현으로 읽어내는 비평적 논문이다. 2019년 OpenAI가 기계 생성 텍스트 탐지를 돕기 위해 공개한 200만 개의 어색한 GPT-2 출력에서 출발해, 사전학습·디코딩·선호 튜닝·벤치마크·인터페이스로 이어지는 스택 전체와 그 계보를 '감사 사회(audit society)'까지 거슬러 추적한다. 핵심 한계로, 최적화 절차는 생성 텍스트가 얼마나 비개연적인지는 측정할 수 있어도 그 비개연성이 오류인지 창의성인지는 판별할 수 없다는 점을 지적한다. 그럼에도 이 절차가 불과 5년 만에 정당한 언어의 규약을 정하는 권위를 획득해, 수 세기 동안 학술원과 교실이 갖던 판단의 직무가 판단 능력 없는 손실 함수·보상 모델·벤치마크·시스템 프롬프트로 이관됐다고 논증한다.

• •LLM 정렬을 공학적 성취가 아닌 '최적화 문화'의 최신 표현으로 재해석하는 비평 논문
• •사전학습부터 인터페이스까지 스택 전체와 '감사 사회'로 이어지는 계보 추적
• •핵심 한계: 최적화는 텍스트의 비개연성을 측정할 뿐 그것이 오류인지 창의인지 판별 불가
• •정당한 언어의 규약을 정하던 권위가 학술원·교실에서 손실 함수·보상 모델·벤치마크로 이관됐다고 진단