CAS(Causal Attribution Score)는 모델 출력을 설명하는 기존 예측적 설명 기법과 달리, 실제 개입이 결과에 미치는 인과 효과 자체를 귀속시키는 새로운 점수 체계다. 식별된 개입 연합 게임에서 인과적 Shapley 기여도로 개입 대비 효과를 배분하고 이를 Local·Signed Local·Global CAS로 요약한다. 알려진 정답이 있는 벤치마크(2,200회 반복 시뮬레이션)에서 CAS의 평균절대오차는 0.107로, 일대일 정규화(0.173)와 전역 정규화 ATE(0.213)보다 우수했고, 상호작용이 강할수록 이점이 커졌다. 401(k) 가입 자격과 펜실베이니아 재고용 보너스 실증 데이터에서도 예측 기반 SHAP 순위와 CAS 순위가 크게 달랐으며, 무엇이 결과를 예측하는지와 무엇이 처치 효과를 설명하는지를 분리하는 것의 가치를 보여준다.
- •예측 기여도가 아닌 실제 개입의 인과 효과를 귀속시키는 CAS 도입
- •인과적 Shapley 기여도 기반 Local/Signed Local/Global CAS 산출
- •known-truth 벤치마크에서 MAE 0.107로 기존 정규화 기법(0.173, 0.213) 능가
- •강한 상호작용 상황에서 CAS의 우위가 더 커짐
- •실증 데이터에서 예측 SHAP 순위와 CAS 순위가 크게 상이(예: dep1이 13위→2위)
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
CAS: A Causal Attribution Score for Local and Global Explainable Artificial Intelligence
- 1.예측이 아닌 개입 효과를 귀속시키는 인과 설명 점수 CAS(Causal Attribution Score) 제안
- 2.정답 벤치마크서 CAS 평균절대오차 0.107로 일대일정규화(0.173)·전역ATE(0.213) 대비 우수
- 3.401(k)·펜실베이니아 재고용 데이터서 SHAP·TreeSHAP 예측순위와 CAS 인과순위 크게 다름
- 4.펜실베이니아 사례서 dep1 변수가 예측 13위→Feature-CAS 2위로 상승, 처치효과 조절변수로 재평가
왜 중요한가?
기존 SHAP류 설명은 무엇이 결과를 잘 예측하는지만 보여주지만, CAS는 개입 효과의 이질성을 실제로 설명하는 요인을 구분해내 정책·비즈니스 의사결정에서 예측력과 인과적 개입 효과를 혼동하는 문제를 바로잡는다.
본문 미리보기
arXiv:2608.12555v1 Announce Type: new Abstract: Predictive explanation methods attribute a model output; they do not, by themselves, attribute an intervention effect on the real-world outcome. We introduce the Causal Attribution Score (CAS), a compact score architecture for causal explanation. CAS starts from an identified interventional coalition game, allocates the joint intervention contrast with causal Shapley contributions, and converts those raw outcome-scale effects into Local CAS, Signe
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:21AI 초안
