암묵적 사회 규범을 정량화해 AI에 주입하면 인간-AI 동적 협조가 크게 개선된다는 연구다. 연구진은 보행자-차량 상호작용을 대표 과제로 삼아 실험 플랫폼을 만들고, 3,456건의 인간 상호작용 데이터에서 결과 예측 가능성, 가치 정렬, 이점 인식이라는 세 가지 사회 규범 원리를 도출했다. 이 원리를 반영한 LLM 에이전트는 폐루프 인간 협조 과제에서 기준 전략 대비 총점을 약 4배 높였고, 인간-인간 상호작용보다도 43% 높은 성과를 냈다. 사람의 시연을 단순 모방하는 대신 행동을 만들어내는 규범 자체를 명시적으로 모델링하는 것이 자연스러운 인간-AI 공존의 열쇠가 될 수 있음을 시사한다.
- •보행자-차량 상호작용 플랫폼에서 수집한 3,456건의 인간 동적 상호작용 데이터 분석
- •인간 사회 규범의 3원리 도출: 결과 예측 가능성, 가치 정렬, 이점 인식
- •규범 반영 LLM이 폐루프 인간 협조 과제에서 기준 전략 대비 약 4배 높은 총점 기록
- •인간-인간 상호작용 대비 43% 높은 성과 달성
- •시연 모방이 아닌 규범의 명시적 정량화가 인간-AI 협조 개선의 핵심임을 입증
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Learning social norms enhances compatibility in dynamic human-AI coordination
- 1.3,456건의 보행자-차량 상호작용 데이터에서 인간 사회규범의 3원칙을 도출
- 2.결과 예측가능성·가치 정렬·이점 인식 원칙을 LLM 에이전트에 명시적으로 주입
- 3.폐루프 인간 협응 과제에서 기준 전략 대비 총점 약 4배, 인간-인간 대비 43% 우수
왜 중요한가?
인간 시연을 모방하는 기존 정렬 방식과 달리 암묵적 사회규범을 정량화해 주입하면 인간-AI 협응이 크게 개선됨을 보여, 자율주행·로봇 등 실시간 상호작용 AI 설계에 적용 가능한 방법론을 제시한다.
본문 미리보기
arXiv:2607.07021v1 Announce Type: new Abstract: Humans continuously coordinate with others in dynamic interactions, often through implicit, hard-to-quantify social norms that act as shared tacit expectations among interacting agents. As AI agents, including large language models (LLMs), become embedded in daily life, they increasingly participate in such interactions and reshape social interaction structures. Yet they often fail to coordinate with humans in an effective, considerate, and natura
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 13:08AI 초안
