GLARE는 블랙박스 이미지 분류기의 전역(global) 설명을 자연어로 탐색할 수 있게 해주는 LLM 기반 대화형 인터페이스다. 핵심 LLM이 중재자 역할을 하며, 사용자의 자연어 질문을 로컬 설명 데이터에 대한 구조화된 SQL 쿼리로 변환해 저수준 표현을 노출하지 않고도 유연한 집계를 가능하게 한다. 각 질의에 대해 통계가 보강된 자연어 응답과 의도에 맞는 시각화를 제공하며, 의도 해석·쿼리 매핑 정확도·신규 질의 및 데이터셋 일반화·언어 오류 견고성에서 평가됐다. 복잡하고 단일체적인 전역 설명을 사용자 친화적으로 만들어 인간 중심 XAI의 접근성과 사용성을 크게 높인다.
- •LLM이 자연어 질문을 로컬 설명 데이터에 대한 SQL 쿼리로 변환해 전역 설명에 접근
- •통계 보강 자연어 응답, 로컬 설명, 의도 정렬 시각화를 출력
- •의도 해석·쿼리 매핑·일반화·언어 오류 견고성 4개 축에서 평가
- •저수준 표현 노출 없이 유연한 집계를 가능케 해 전역 설명의 접근성과 사용성 향상
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
GLARE: A Natural Language Interface for Querying Global Explanations
- 1.블랙박스 이미지 분류기의 전역 설명에 자연어로 접근하는 LLM 인터페이스 GLARE 제안
- 2.LLM이 자연어 질문을 로컬 설명 데이터에 대한 구조화된 SQL 쿼리로 변환
- 3.통계 보강 자연어 응답과 의도 정렬 시각화를 함께 출력
- 4.의도 해석·쿼리 매핑 정확도·신규 질의 일반화·언어 오류 강건성 평가
왜 중요한가?
저수준 표현을 노출하지 않고 사용자가 원하는 질문에 맞춰 전역 설명을 유연하게 탐색하게 해, 인간 중심 설명가능 AI(XAI)의 접근성과 실사용성을 높였다는 점에서 의미가 있다.
언급 프로젝트
AI 모델의 복잡한 설명 가능성(XAI)을 자연어 인터페이스로 간소화하는 이 연구는 한국 시장에서 매우 중요합니다. 특히 금융, 의료 등 규제 산업에서 AI 모델의 의사결정 과정을 투명하게 이해하고 검증해야 하는 요구가 커지고 있어, 실질적인 활용도를 높이는 데 기여할 것입니다.
본문 미리보기
arXiv:2606.19735v1 Announce Type: new Abstract: While global explanations are crucial for understanding vision models across datasets, classes, and decision contexts, their complex and monolithic nature often hinders practical exploration. Because users typically seek targeted answers to specific questions rather than static artifacts, we present an LLM-based interactive interface that provides natural language access to global explanations for black-box image classifiers. The system's core LLM
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 13:55AI 초안
