AI2026년 7월 23일AI 점수: 95%
Rethinking Uncertainty Evaluation in Large Language Models
출처:arXiv cs.AI
✨ AI 인사이트
🧑💻 개발자
- 1.캘리브레이션만으로는 LLM 신뢰도 평가가 불충분하다며 '일관된 확률 믿음' 조건을 공식화
- 2.구조적 일관성·충실성·유용성 3축의 C1 지표 제안, 기존 추정기의 체계적 위반 확인
- 3.모델이 논리적으로 더 쉬운 질문에 낮은 신뢰도를 부여하는 경우가 31%에 달함
- 4.RLHF·CoT는 유용성만 개선할 뿐 확률적 일관성은 복원하지 못함
💡
왜 중요한가?
잘 캘리브레이션된 것처럼 보이는 신뢰도 점수도 일관된 확률로 해석할 수 없다는 결과로, 신뢰도 기반 라우팅·거부·앙상블 등 다운스트림 활용의 전제를 흔든다. 캘리브레이션과 확률적 타당성이 서로 직교한다는 진단은 LLM 불확실성 평가 관행의 재설계를 요구한다.
본문 미리보기
arXiv:2607.19367v1 Announce Type: new Abstract: Calibration is the primary criterion for evaluating LLM confidence, but it is insufficient: it admits trivially incoherent estimators, depends on the evaluation distribution, and does not test the extent to which the estimation can be interpreted as a consistent, underlying probability function. What we actually need is for LLM confidence estimates to satisfy the conditions required of coherent probabilistic beliefs. We formalize these conditions
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
공유:
#LLM#불확실성평가#캘리브레이션#신뢰도추정