ML 모델 예측의 설명 가능성을 위해 인과 관계와 논증 기반 추론을 결합한 새로운 XAI 방법을 제안했다. 인과 발견 방법으로 변수 간 인과 관계를 파악하고 이를 쌍극 논증 프레임워크(BAF)로 변환해 지지·반대 상호작용을 표현한다. 준안정 의미론을 활용해 특정 결과 선택 이유를 설명하는 특성 확장을 도출하고 두 기준 데이터셋에서 표준 사후 설명 방법과 비교 검증했다.
- •인과 발견과 쌍극 논증 프레임워크(BAF)를 결합해 ML 모델 예측의 '이유'를 설명하는 새로운 XAI 방법 제안
- •인과 발견으로 변수 간 인과 관계를 식별하고 이를 지지·반대 상호작용 표현 가능한 BAF로 변환
- •준안정 의미론으로 특정 결과 선택을 설명하는 특성 확장을 도출해 결정 원인 설명 가능
- •두 기준 데이터셋에서 표준 사후 설명 방법과 비교 검증으로 방법론의 실용성 확인
A Causal Argumentation Method for Explainability of Machine Learning Models
- 1.인과 발견과 논증 기반 추론을 결합하여 ML 모델의 특정 의사결정 이유를 설명하는 새로운 XAI 방법론 제안
- 2.인과 발견 방법으로 변수 간 인과 관계를 파악하고 양극성 논증 프레임워크(BAF)로 변환하여 설명 제공
- 3.반안정 의미론(semi-stable semantics)으로 특정 결과를 더 지지 혹은 반대하는 특징 조합을 도출하여 원인 파악
- 4.두 개 벤치마크 데이터셋에서 기존 사후 설명가능성 방법과 비교하여 실효성 입증
왜 중요한가?
기존 XAI는 어떤 특성이 중요한지만 알려줄 뿐 왜 그런 결정이 내려졌는지 설명하지 못했는데, 인과-논증 결합 방식은 이 근본적인 설명 격차를 해소하려는 시도로 규제 준수와 AI 신뢰성 향상에 직결된다.
본문 미리보기
arXiv:2605.21758v1 Announce Type: new Abstract: Explainable AI (XAI) methods identify which features are relevant to a model's predictions but often fail to clarify why certain decisions are made. In this work, we present a novel method that integrates causality with argument-based reasoning to explain why models may be making predictions. Our approach first identifies causal relationships among variables using causal discovery methods and then translates these into a Bipolar Argumentation Fram
전체 내용이 궁금하다면?
원문을 직접 읽어보세요