좋은 설명을 반사실적 설명(counterfactual explanation) 개념을 확장해 정의하되, 청자가 각 사실에 대해 가진 사전 믿음(prior beliefs)을 함께 고려해야 한다고 주장하는 논문이다. 단순히 반사실적 사실을 나열하는 것을 넘어, 설명을 받는 상대의 기존 믿음 상태에 따라 같은 설명도 가치가 달라진다는 점을 핵심으로 삼는다. 저자들은 이 정의를 바탕으로 LLM 출력에 대해 좋은 설명을 만들기 어려운 이유를 분석한다. AI 채택의 전제인 설명가능성(explainability)에 대한 이론적·철학적 기준을 제시한다.
- •좋은 설명을 반사실적 설명 개념을 확장해 정의
- •청자의 사전 믿음을 설명의 가치 판단에 반드시 포함해야 한다고 주장
- •이 정의를 통해 LLM 출력에 대한 좋은 설명 생성이 어려운 이유를 규명
- •AI 채택의 전제인 설명가능성에 대한 이론적·철학적 기준 제시
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
A Definition of Good Explanations and the Challenges Explaining LLM Outputs
- 1.반사실적 설명 개념에 기반한 '좋은 설명'의 정의를 제안
- 2.설명의 각 사실에 대한 청자의 사전 믿음을 함께 고려해야 함을 주장
- 3.이 정의가 AI 설명가능성에 주는 함의를 탐구
- 4.LLM 출력의 좋은 설명을 만들기 어려운 이유를 특히 조명
왜 중요한가?
AI 채택에 필수적인 설명가능성을 논하려면 먼저 '좋은 설명'이 무엇인지 규정해야 한다는 문제의식에서, 청자의 사전 믿음을 변수로 끌어들여 LLM 출력이 왜 설명하기 특히 어려운지를 철학적으로 짚는다.
AI 출력의 '좋은 설명'에 대한 근본적인 정의와 도전 과제를 다룬 이 논문은 한국의 설명 가능한 AI(XAI) 연구 및 규제 논의에 중요한 통찰을 제공합니다. 특히 AI의 사회적 수용성과 윤리적 책임이 강조되는 국내 환경에서, LLM의 복잡한 추론 과정을 어떻게 효과적으로 설명할 것인가는 정책 입안자와 개발자 모두에게 해결해야 할 핵심 과제입니다.
본문 미리보기
arXiv:2606.14838v1 Announce Type: new Abstract: How to define a good explanation is a long-standing philosophical debate which has found recent renewed interest in the context of AI outputs. Explainability is crucial for AI adoption in many contexts, but in order to produce good explanations of AI systems, we must first have an understanding of what good explanations are. In this paper we propose a definition inspired by the notion of counterfactual explanations, however we argue that one must
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 13:49AI 초안
