지난 10년간 ML 모델 설명의 주류는 SHAP 같은 비상징적 방법이었지만 이들은 엄밀성이 부족해 고위험 의사결정자를 오도할 수 있다. 이 논문은 SHAP의 입증된 엄밀성 부재를 대표 사례로 들고, 특성 중요도 할당에 상징적 XAI를 대안으로 제시하는 진행 중 연구 개요를 정리한다.
- •SHAP 등 비상징적 XAI의 엄밀성 결여 문제 제기
- •고위험 ML 의사결정에서 오도 위험 경고
- •상징적 방법을 특성 중요도 대안으로 제시
- •엄밀한 수학적 기반 위의 XAI 연구 흐름 정리
- •Shapley 값 XAI의 구조적 한계 노출
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Towards Rigorous Explainability by Feature Attribution
- 1.SHAP 기반 XAI의 엄밀성 부재 비판
- 2.상징적 XAI를 고위험 분야 대안으로 제시
- 3.ML 설명성 연구 방향 재정립
왜 중요한가?
금융·의료·법률 등 고위험 분야에서 ML 설명성은 규제·감사의 필수. SHAP 의존의 함정을 경고하고 대안을 모색하는 방향성 제시.
언급 프로젝트
본문 미리보기
arXiv:2604.15898v1 Announce Type: new Abstract: For around a decade, non-symbolic methods have been the option of choice when explaining complex machine learning (ML) models. Unfortunately, such methods lack rigor and can mislead human decision-makers. In high-stakes uses of ML, the lack of rigor is especially problematic. One prime example of provable lack of rigor is the adoption of Shapley values in explainable artificial intelligence (XAI), with the tool SHAP being a ubiquitous example. Thi
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 13:32AI 초안
