이 포지션 페이퍼는 LLM이 아직 의사결정 설명으로 인정받아서는 안 된다고 주장한다. 결정 예측, 근거 생성, 결정 설명의 세 가지 청구를 구별하고, 현재 증거가 처음 두 가지만 지지하며 설명보다는 예측 지원 합리화에 그친다고 논증한다. 저자는 더 강한 주장을 위한 가교 기준을 제안하고, 증거가 보증하는 가장 강한 청구만 LLM에 인정하는 신용 교정 원칙을 제시한다.
- •LLM의 정확한 행동 예측이나 그럴듯한 근거 생성을 의사결정 설명으로 혼동해서는 안 된다.
- •결정 예측, 근거 생성, 결정 설명의 세 가지 청구를 구별하고 각각의 증거 요건을 명확히 한다.
- •기존 LLM 기반 결정 설명 증거는 예측 지원 합리화를 설명과 구별하지 못한다.
- •증거가 보증하는 가장 강한 청구만 인정하는 신용 교정 원칙을 제안한다.
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
LLMs Should Not Yet Be Credited with Decision Explanation
- 1.LLM의 행동 예측·합리화 능력을 결정 설명으로 오인하는 위험성을 경고하는 포지션 페이퍼
- 2.예측, 합리화 생성, 결정 설명 세 주장을 구분하고 LLM이 세 번째는 아직 미충족임을 논증
- 3.신용 교정 원칙 제안: LLM은 증거가 지지하는 가장 강한 주장에만 인정을 받아야 함
왜 중요한가?
AI 시스템의 설명가능성 주장이 과장되는 현상에 경종을 울리며, AI 연구의 책임 있는 평가 기준을 정립하는 데 기여함.
본문 미리보기
arXiv:2605.01164v1 Announce Type: new Abstract: This position paper argues that LLMs should not yet be credited with decision explanation. This matters because recent work increasingly treats accurate behavioral prediction, plausible rationales, and outcome-conditioned reasoning traces as evidence that LLMs explain why people decide as they do, risking a premature redefinition of what counts as explanatory progress in human decision modeling. We first distinguish three claims with different evi
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:12AI 초안
