인과 그래프 지식을 반영한 특성 기여도 설명 기법인 비대칭 섀플리 값(ASV)의 효율적 계산법을 제시한 논문이다. 일반 SHAP 계산이 #P-hard인 상황에서도 ASV는 다항 시간에 정확히 계산 가능한 경우가 있음을 증명했고, 인과 그래프의 위상 정렬에 대한 동치류(equivalence class) 개념을 도입해 계산 시간을 추가로 단축했다. 인과 그래프가 루트 유향 트리인 경우 동치류 수에 대한 다항 시간 알고리즘을 제시하고, 임의의 인과 DAG에는 위상 정렬 균등 샘플링 기반 근사 알고리즘을 개발했다. 실험으로 현실적 인과 구조에서의 실용성을 확인해, 인과 지식을 활용한 모델 설명(XAI)의 계산 병목을 완화하는 결과다.
- •인과 그래프를 반영하는 비대칭 쉐플리 값(ASV)의 정확 계산이 특정 조건에서 다항 시간 가능함을 증명 — SHAP은 같은 조건에서 #P-hard
- •위상 정렬 동치류 개념으로 계산 시간 추가 단축, 루트 유향 트리 구조에 다항 시간 알고리즘 제시
- •임의 인과 DAG에는 위상 정렬 균등 샘플링 기반 근사 알고리즘 개발
- •현실적 인과 구조 실험으로 실용성 검증, 인과 지식 기반 XAI의 계산 병목 완화
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Beyond Shapley: Efficient Computation of Asymmetric Shapley Values
- 1.인과 그래프로 인과 지식을 반영하는 비대칭 Shapley 값(ASV) 계산 연구
- 2.SHAP가 #P-hard인 일부 상황에서 ASV는 정확히 다항시간 계산 가능함을 증명
- 3.위상정렬 동치류를 도입해 계산량 축소, 트리 그래프에서 다항시간 알고리즘
- 4.임의 DAG에서는 위상정렬 균등 샘플링 기반 근사 알고리즘 제시
왜 중요한가?
설명가능 AI의 핵심 도구인 Shapley 값에 인과 그래프를 결합한 ASV는 단순 상관이 아닌 인과 지식을 특성 기여도에 담을 수 있다. 일반 SHAP가 계산적으로 다루기 어려운(#P-hard) 경우에도 ASV를 다항시간에 정확히 또는 근사로 구하는 알고리즘을 제시해, 인과 기반 모델 해석의 실용성을 높인다.
본문 미리보기
arXiv:2606.25103v1 Announce Type: new Abstract: We address the problem of explainability in machine learning models through feature attribution methods. In particular, we consider a variant of Shapley values known as Asymmetric Shapley Values (ASV), which enables the incorporation of causal knowledge into model-agnostic explanations through the use of a causal graph. We show that in certain contexts in which the computation of SHAP is $\#P$-hard, the exact computation of ASV can be done in poly
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 13:08AI 초안
