PACE는 실현 가능성을 고려한 반사실적 설명(counterfactual explanation)을 생성하는 모듈형 뉴로-심볼릭 프레임워크다. 기존 방법이 예측만 바꾸는 비현실적 권고를 내놓는 문제를 해결하기 위해, 분류를 담당하는 신경망 예측 모델과 도메인 제약을 강제하는 심볼릭 추론 레이어를 분리했다. Adult Income 데이터셋 사례 연구에서 MLP 분류기에 Answer Set Programming(ASP) 규칙을 결합해 학력·직업·근로시간의 실현 가능한 변경만 허용하고 불변 속성은 보존했다. 결과는 반사실 유효성과 개연성 간 트레이드오프를 보여주며, 심볼릭 제약이 도메인 요건을 더 잘 충족하는 설명을 만든다는 점을 확인했다. 모델 불가지론적 설계로 현실적 의사결정 지원이 필요한 도메인에 적용 가능하다.
- •신경망 예측과 심볼릭 추론을 분리한 모듈형 구조로 도메인 제약을 명시적으로 강제
- •Answer Set Programming(ASP) 규칙으로 실현 가능한 개입만 허용, 불변 속성(성별 등) 보존
- •Adult Income 데이터셋 + MLP 분류기 사례로 학력·직업·근로시간 변경 제약 시연
- •반사실 유효성과 개연성 간 트레이드오프 정량화, 심볼릭 제약이 실현 가능성 요건 충족도 개선
- •모델 불가지론적 설계로 금융·채용 등 현실적 의사결정 지원 도메인에 적용 가능
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
PACE: A Neuro-Symbolic Framework for Plausible and Actionable Counterfactual Explanations
- 1.실행 가능성 제약을 강제하는 뉴로심볼릭 반사실 설명 프레임워크 PACE 제안
- 2.신경망 예측기와 심볼릭 추론층을 분리, 도메인 규칙과 개입 제약을 명시적으로 모델링
- 3.Adult Income 데이터셋에서 MLP+ASP 규칙으로 불변 속성 보존하며 사례연구 수행
- 4.반사실 타당성과 현실성의 트레이드오프 속 실행가능 설명 개선을 확인
왜 중요한가?
기존 반사실 설명이 '나이를 바꿔라' 같은 비현실적 권고를 내는 문제를 심볼릭 제약으로 해결했다. 모델 불가지론적 구조여서 신용·채용 등 실행 가능한 설명이 요구되는 규제 도메인의 설명가능 AI에 적용 여지가 크다.
언급 프로젝트
본문 미리보기
arXiv:2607.01306v1 Announce Type: new Abstract: Counterfactual explanations explain machine learning predictions by identifying minimal input changes that would alter a model's decision. Although many existing methods successfully generate prediction-changing alternatives, they often produce unrealistic or infeasible recommendations due to a lack of explicit mechanisms for incorporating domain knowledge and intervention constraints. Neuro-symbolic AI offers a promising direction by combining da
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 13:08AI 초안
