인간 공동체를 규율하는 규범을 AI 에이전트가 상호작용만으로 파악할 수 있는지, '규범 역량'을 측정하는 연구다. 연구팀은 접근 권한이 합성 규범으로 결정되는 다중 에이전트 토론 환경을 만들어 사전학습 지식과 분리된 상태에서 규범 역량을 평가했다. 기본 LLM 에이전트는 규범을 학습하면 정확도가 올라가는 상황에서도 규범을 제대로 학습하지 못했다. 규범 추론을 위한 다양한 아키텍처 모듈을 실험한 결과 규범 준수 성능이 규범 스타일과 모델 종류에 민감해 일반화가 어려웠고, 특이한 비규범적 행동이 섞이면 에이전트가 이를 구분 없이 그대로 모방하는 '무차별 귀속 오류'가 나타났다. 이는 현재 AI가 행동 모방에는 능하지만 사회적으로 강제되는 질서를 스스로 분별하는 능력은 부족함을 시사한다.

• •합성 규범으로 접근 권한이 결정되는 다중 에이전트 토론 환경으로 규범 역량을 사전학습과 분리해 평가
• •기본 LLM 에이전트는 정확도 향상에 도움이 되어도 규범을 제대로 학습하지 못함
• •규범 추론 모듈의 성능이 규범 스타일과 기반 모델에 따라 크게 달라 일반화에 한계
• •특이한 비규범적 행동까지 규범과 구분 없이 모방하는 '무차별 귀속 오류' 발견
• •현재 LLM은 행동 모방에는 능하지만 사회적 규범 분별 능력은 부족함을 시사