EvoTrustRAG는 RAG에서 상충하는 근거가 정당한 지식 진화, 악의적 조작, 미해결 불확실성 중 무엇에서 비롯됐는지 판별하는 훈련 불필요(training-free) 프레임워크다. 기존 방법이 충돌을 정적 불일치로 취급해 더 신뢰할 만한 지식을 고르는 데 그쳤던 것과 달리, 이 논문은 관찰 가능한 맥락이 어떤 설명을 뒷받침하는지 규명하는 '충돌 기원 귀속' 문제를 새로 정식화한다. 검색된 근거를 충돌 증거 그래프로 표현하고 시간 관계·지지 구조·보조 일관성을 이용해 지식 진화 가설과 개입 가설을 평가한 뒤, 각 충돌 그룹에 대해 전역적으로 일관된 설명으로 투영한다. 실험 결과 벤치마크 충돌 상황에서 평균 정확도 81.4%를 달성했고, 귀속 매크로-F1을 최강 베이스라인 대비 72.2%에서 79.1%로 높였으며, 최강 협조 공격 하의 오류율을 31.2%에서 16.0%로 낮췄다.
- •충돌된 근거가 지식 진화·악의적 조작·미해결 불확실성 중 무엇인지를 판별하는 '충돌 기원 귀속' 문제를 새롭게 정식화
- •검색 근거를 충돌 증거 그래프로 표현해 시간 관계·지지 구조·보조 일관성으로 가설 평가
- •벤치마크 충돌 상황에서 평균 정확도 81.4% 달성
- •귀속 매크로-F1을 72.2%에서 79.1%로 개선, 최강 협조 공격 시 오류율을 31.2%에서 16.0%로 감소
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
EvoTrustRAG: Evolution-Aware Conflict Attribution and Evidence Handling for Reliable Retrieval-Augmented Generation
본문 미리보기
arXiv:2608.07933v1 Announce Type: new Abstract: Retrieval-Augmented Generation (RAG) improves the factuality of large language models with external knowledge, yet conflicting evidence remains a fundamental challenge in dynamic and adversarial environments. Existing approaches often treat conflicts as static inconsistencies and select more reliable knowledge, overlooking that the same conflict may arise from legitimate knowledge evolution, malicious manipulation, or unresolved uncertainty. We fo
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:59AI 초안



