이 논문은 기존 AI 정렬 연구가 '무엇이 사회적으로 용인되는가'라는 1차 규범에만 집중해온 것과 달리, 규범 위반 시 누가 어떻게 제재하는지에 대한 2차 기대인 메타규범 추론을 평가하는 프레임워크를 제시한다. 감정적 평가와 행동적 반응이라는 두 축을 따라 위반자의 자기규제 예측과 관찰자의 타인규제 예측이라는 새로운 분류 과제를 도입했으며, 450개의 규범 위반 시나리오를 성별·사회적 거리별로 사람이 직접 라벨링한 NormReact 데이터셋을 공개했다. 6개 모델을 평가한 결과 LLM들은 사람이라면 아무 조치도 없을 것으로 예상하는 상황에서도 부정적 제재를 과대예측했고, 사회적 거리가 멀어질수록 인간 판단과의 정합성이 더 떨어졌다. 갈등 조정이나 정책 시뮬레이션 등 규범에 민감한 분야에서 AI가 처벌 중심으로 왜곡된 사회상을 만들어낼 위험을 시사한다.

• •1차 규범(옥고 그릅)을 넘어 2차 기대인 메타규범(누가 어떻게 제재하나) 추론 평가 프레임워크 제안
• •450개 시나리오를 성별·사회적 거리별로 라벨링한 NormReact 데이터셋 공개
• •6개 LLM 모두 사람보다 부정적 제재를 과대예측하는 경향을 보임
• •사회적 거리가 멀어질수록 인간 판단과의 정합성이 저하돼 정책·조정 분야 활용 시 위험 시사