FrED는 모델 가중치 접근 없이 완전한 블랙박스 환경에서 학습 데이터 기여도(Training Data Attribution)를 추정하는 확률적 프레임워크다. 기존 파라미터 기반 방식은 가중치 접근과 막대한 연산이 필요하고 유사도 기반 방식은 구조적 맥락을 무시한다는 한계를 겨냥했다. FrED는 연속적 특징 유사도와 도메인별 지식그래프를 융합해, 매우 구체적인 과거 샘플에 가중치를 주고 일반적 배경 데이터가 결과를 지배하지 못하게 막는다. 추상 예술 이미지 생성과 고차원 기상 예측이라는 두 이질적 도메인에서 검증했으며, 예술 영역에서는 표준 블랙박스 유사도 베이스라인을 넘는 Linear Datamodeling Score를 기록해 그래디언트 기반 추정기와의 격차를 상당히 좁혔다. 환경 예측 사례에서는 지식그래프로 물리적으로 일관된 과거 유사 사례를 찾아 지역 홍수 예보의 지리적 국소화를 개선했다.
- •모델 내부 접근 없이 동작하는 블랙박스 기여도 분석으로 사후 해석과 검색을 동시에 지원한다.
- •연속적 특징 유사도와 이산적 도메인 지식그래프를 융합해 귀속을 구조적 사실에 접지시킨다.
- •일반적인 배경 데이터가 결과를 장악하지 못하게 하고 구체적 사례에 보상을 준다.
- •추상 예술 이미지 생성에서 블랙박스 유사도 베이스라인을 넘는 Linear Datamodeling Score를 달성했다.
- •기상 예측 교차 사례연구에서 지역 홍수 예보의 지리적 국소화가 잠재변수만 쓴 베이스라인보다 나아졌다.
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
FrED: External Data Influence Estimation via Domain Knowledge Graph Grounding
본문 미리보기
arXiv:2607.21615v1 Announce Type: new Abstract: The rapid deployment of generative AI has amplified the critical need for Training Data Attribution to ensure transparency and accountability. However, current parametric approaches require computationally prohibitive access to model weights, while similarity-based methods ignore deep structural context. We propose a novel probabilistic framework that operates entirely in a black-box setting. Our method fuses continuous feature similarities with d
전체 내용이 궁금하다면?
원문을 직접 읽어보세요