Whose Ground Truth? Embracing Ambiguity in Human-Centered AI | AIChainDay

한국어 요약by Claude · 2026. 10. 10.

이 포지션 논문은 인간 중심 AI 개발에서 단일 정답(ground truth)을 전제하는 관행이 인간 해석의 다양성을 놓칠 위험이 있다고 주장한다. 기존 머신러닝은 어노테이터 간 의견 차이를 집계나 노이즈로 처리해 왔지만, 많은 과제에서는 서로 다른 해석이 동시에 타당할 수 있다고 지적한다. 저자들은 의미 있는 모호성과 단순 주석 오류를 구분하면서, 가능한 인간 판단들의 '해석 공간' 자체를 모델링하는 방향으로 전환해야 한다고 제안한다. 이러한 관점은 AI 시스템의 표현, 학습, 평가, 배포, 거버넌스 전반에 반영되어야 인간 해석의 다양성을 제대로 반영하는 AI를 만들 수 있다는 것이다.

•단일 정답 가정 대신 다수의 타당한 인간 해석을 모델링해야 한다는 포지션 논문
•어노테이터 의견 차이를 집계·노이즈로 처리하는 관행의 한계를 지적
•'의미 있는 모호성'과 단순 주석 노이즈를 구분할 것을 제안
•AI의 표현·학습·평가·배포·거버넌스 전반에 해석 다양성 반영을 주장

0단 자동

AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.

규칙 판: 규칙 판 도입 이전 기사입니다.
남기는 것: 규칙 판 · 모델 · 시각
판 기록: 아직 없습니다.

AI2026년 10월 9일AI 점수: 75%

Whose Ground Truth? Embracing Ambiguity in Human-Centered AI

출처:arXiv cs.AI

AI 인사이트

일반개발자

1.AI 개발은 단일 '정답'을 가정해 인간 평가자 간 차이를 노이즈로 처리해왔다는 문제 제기
2.많은 인간 중심 과제는 여러 해석이 동시에 타당할 수 있어, 하나로 축소하면 다양성 정보가 사라짐
3.의미 있는 해석 다양성과 단순 주석 노이즈를 구분해야 한다는 관점 전환을 제안
4.AI의 표현·학습·평가·배포·거버넌스 전반에 이 관점을 반영해야 한다고 결론

왜 중요한가?

AI가 사람에 대한 결정을 내리는 비중이 커지는 가운데, '정답은 하나'라는 전제가 인간 판단의 다양성을 지울 수 있다는 문제를 제기해 평가·데이터 수집 방식의 재검토를 촉구한다.

본문 미리보기

arXiv:2610.10805v1 Announce Type: new Abstract: As AI systems increasingly interact with people and make decisions about them, understanding human interpretations becomes an important part of developing human-centered AI. Conventional machine learning and AI systems are largely developed under the assumption that a single definitive ground truth exists, with variability in human annotations often resolved through aggregation or treated as noise. However, for many human-centered tasks, human int

전체 내용이 궁금하다면?

원문을 직접 읽어보세요

원문 보기