KernelSHAP·LIME 같은 마스킹 기반 사후 설명 방법을 '질의 채널'을 통한 통신 문제로 정식화한 정보 이론적 분석이다. 잠재 설명을 메시지로, 각 마스크 평가를 채널 사용으로 보면 설명의 복잡도는 가설 클래스의 엔트로피로, 질의 인터페이스의 정보율은 질의당 식별 용량으로 표현된다. 저자들은 설명률이 용량을 초과하면 어떤 설명자/디코더 시퀀스에서도 정확 회복 오류 확률이 1로 수렴한다는 강한 역정리를 도출했고, 용량 미만에서는 희소 최대우도 디코더가 신뢰성 있는 회복을 달성함을 증명했다. Monte Carlo 상호정보 추정으로 비점근 질의 벤치마크를 만들어 LIME·KernelSHAP의 Lasso/OLS 절차와 비교했고, 정보 이론적으론 가능한데 표준 볼록 대안은 실패하는 영역이 존재함을 보였다.
- •마스킹 기반 설명 방법을 질의 채널 통신 문제로 정식화
- •설명률이 용량 초과 시 회복 실패 불가피성을 보이는 강한 역정리 증명
- •희소 최대우도 디코더가 용량 미만에서 신뢰성 회복 달성
- •Monte Carlo 상호정보 추정으로 비점근적 질의 벤치마크 제시
- •스퍼픽셀 해상도·토큰화를 소스 코딩 선택으로 재해석해 설명 한계 설명
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
The Query Channel: Information-Theoretic Limits of Masking-Based Explanations
- 1.KernelSHAP·LIME 같은 마스킹 기반 설명을 쿼리 채널로 정식화
- 2.설명 복잡도를 가설 클래스 엔트로피로 포착
- 3.설명 속도가 용량 초과 시 정확 복원 불가능 증명
- 4.Lasso·OLS 기반 방법이 실패하는 쿼리 예산 범위 발견
왜 중요한가?
블랙박스 모델 설명 기법의 근본적 정보이론 한계를 밝히고 수퍼픽셀 해상도와 토큰화의 영향을 규명합니다.
언급 프로젝트
본문 미리보기
arXiv:2604.16689v1 Announce Type: new Abstract: Masking-based post-hoc explanation methods, such as KernelSHAP and LIME, estimate local feature importance by querying a black-box model under randomized perturbations. This paper formulates this procedure as communication over a query channel, where the latent explanation acts as a message and each masked evaluation is a channel use. Within this framework, the complexity of the explanation is captured by the entropy of the hypothesis class, while
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:43AI 초안
