현대 AI가 가능하게 하는 자유 형식 텍스트 기반 집단적 의사결정에서 표준 텍스트 임베딩이 의미론적 유사성을 측정하여 선호도 기반 의사결정에 부적합하다는 근본적 한계를 분석한다. 텍스트 임베딩 모델이 선호도 관련 신호(입장·가치)와 의미론적 잡음(문체·표현)을 함께 인코딩한다는 불변성 문제를 형식화하고, 두 신호의 상관관계를 깨도록 설계된 합성 훈련 데이터가 11개 온라인 심의 데이터셋에서 선호도 예측을 크게 향상시킴을 보여준다.
- •표준 텍스트 임베딩은 의미론적 유사도를 측정하여 집단 의사결정에 부적합하다
- •텍스트 임베딩은 선호도 관련 신호와 의미론적 잡음을 함께 인코딩한다는 불변성 문제가 있다
- •의미론과 선호도의 상관관계를 깨도록 설계된 합성 훈련 데이터가 선호도 예측을 크게 향상시킨다
- •11개 온라인 심의 데이터셋에서 개선 효과가 실증적으로 확인되었다
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Embeddings for Preferences, Not Semantics
- 1.자유형 텍스트로 의견을 표현하는 집단 의사결정에서 선호도 임베딩의 필요성 제시
- 2.표준 텍스트 임베딩은 의미적 유사성 측정으로 선호도 일치도 측정 실패 문제 형식화
- 3.선호-의미 상관 관계를 끄는 합성 훈련 데이터로 11개 온라인 토론 데이터셋에서 선호 예측 향상
왜 중요한가?
AI 기반 집단 의사결정 시스템의 핵심 문제인 선호도 표현 정확성을 개선하는 방법을 제시하며, 민주적 AI 의사결정 응용 연구에 실질적으로 기여한다.
본문 미리보기
arXiv:2605.08360v1 Announce Type: new Abstract: Modern AI is opening the door to collective decision-making in which participants express their views as free-form text rather than voting on a fixed set of candidates. A natural idea is to embed these opinions in a vector space so that the substantial literature on facility location problems and fair clustering can be brought to bear. But standard text embeddings measure semantic similarity, whereas distances in facility location problems and fai
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 13:10AI 초안
