Tree of Evidence(ToE)는 각 주장(claim)을 동적으로 확장되는 논증 트리로 모델링해 자동 팩트체크를 수행하는 계층적 증거 추론 프레임워크다. 강화학습 기반 다중 소스 검색 에이전트, 증거 평가 에이전트, 논증 트리 집계 알고리즘을 결합해 주장을 반복적으로 분해·검색·검증하며 설명 가능한 증거 사슬을 만든다. 검색 정책이 정보이론적 최적 정책 근방으로 수렴함을 보장하는 공식 오차 한계도 이론적으로 도출했다. 여러 데이터셋과 백본 LLM에서 경쟁 베이스라인 대비 4~24%p 향상을 보였고, 특히 GEO(Generative Engine Optimization) 포이즈닝으로 적대적으로 오염된 입력에서 이득이 컸다. AI 생성 허위정보가 검색 시스템을 통해 LLM 추론을 오염시키는 시대에 실용적인 검증 수단을 제시한다.
- •주장을 동적 확장 논증 트리로 모델링해 분해·검색·검증을 반복하는 계층적 팩트체크 프레임워크 ToE 제안
- •RL 기반 다중 소스 검색 에이전트 + 증거 평가 에이전트 + 논증 트리 집계 알고리즘의 3요소 구성
- •검색 정책이 정보이론적 최적 정책 근방으로 수렴한다는 공식 오차 한계를 이론적으로 도출
- •다수 데이터셋·백본 LLM에서 베이스라인 대비 4~24%p 향상, 적대적 오염 입력에서 이득 최대
- •GEO 포이즈닝으로 AI 생성 허위정보가 검색 시스템에 체계적으로 노출되는 위협이 연구 배경
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
ToE: A Hierarchical and Explainable Claim Verification Framework with Dynamic Multi-source Evidence Retrieval and Aggregation
- 1.각 주장을 동적 확장 논증 트리로 모델링하는 자동 팭트체킹 프레임워크 Tree of Evidence(ToE) 제안
- 2.RL 기반 다중소스 검색·증거 평가·논증 트리 집계로 설명가능한 증거 사슬 구성
- 3.검색 정책이 정보이론적 최적에 수렴함을 보장하는 형식적 오차 한계 도출
- 4.여러 데이터셋에서 4~24%p 개선, 특히 적대적 오염 입력에서 두드러진 성능
왜 중요한가?
GEO 포이즈닝으로 적대적 허위정보가 검색 시스템에 노출돼 LLM 추론을 오염시키는 새 위협에 대응. 설명 가능하고 오염 입력에 강건한 팩트체킹으로 정보 생태계의 신뢰성 방어에 기여한다.
언급 프로젝트
본문 미리보기
arXiv:2606.27736v1 Announce Type: new Abstract: The rapid spread of fake news poses increasing threats to information ecosystems, especially as AI-generated misinformation under Generative Engine Optimization (GEO) poisoning allows adversarially crafted content to be systematically surfaced by retrieval systems, contaminating LLM reasoning. In this paper, we propose Tree of Evidence (ToE), a hierarchical evidence reasoning framework for automated fact-checking that models each claim as a dynami
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 13:08AI 초안
