GLARE는 블랙박스 이미지 분류기의 전역(global) 설명을 자연어로 탐색할 수 있게 해주는 LLM 기반 대화형 인터페이스다. 핵심 LLM이 중재자 역할을 하며, 사용자의 자연어 질문을 로컬 설명 데이터에 대한 구조화된 SQL 쿼리로 변환해 저수준 표현을 노출하지 않고도 유연한 집계를 가능하게 한다. 각 질의에 대해 통계가 보강된 자연어 응답과 의도에 맞는 시각화를 제공하며, 의도 해석·쿼리 매핑 정확도·신규 질의 및 데이터셋 일반화·언어 오류 견고성에서 평가됐다. 복잡하고 단일체적인 전역 설명을 사용자 친화적으로 만들어 인간 중심 XAI의 접근성과 사용성을 크게 높인다.
- •LLM이 자연어 질문을 로컬 설명 데이터에 대한 SQL 쿼리로 변환해 전역 설명에 접근
- •통계 보강 자연어 응답, 로컬 설명, 의도 정렬 시각화를 출력
- •의도 해석·쿼리 매핑·일반화·언어 오류 견고성 4개 축에서 평가
- •저수준 표현 노출 없이 유연한 집계를 가능케 해 전역 설명의 접근성과 사용성 향상
GLARE: A Natural Language Interface for Querying Global Explanations
본문 미리보기
arXiv:2606.19735v1 Announce Type: new Abstract: While global explanations are crucial for understanding vision models across datasets, classes, and decision contexts, their complex and monolithic nature often hinders practical exploration. Because users typically seek targeted answers to specific questions rather than static artifacts, we present an LLM-based interactive interface that provides natural language access to global explanations for black-box image classifiers. The system's core LLM
전체 내용이 궁금하다면?
원문을 직접 읽어보세요