연구진은 검색 증강 LLM 에이전트가 소비자 의사결정에 활용되면서 생성엔진최적화(GEO) 오염 공격에 취약해지는 문제를 다루며, 노출부터 회복까지 전체 궤적을 추적하는 벤치마크 HAE-GEO를 제안했다. 기존 벤치마크는 조작된 콘텐츠의 검색·채택 여부만 측정했지만, HAE-GEO는 에이전트가 의심스러운 증거를 검증하고 채택한 주장을 수정하며 최종 추천 전 회복하는지까지 추적한다. 8개 제품군, 154개 브랜드에 걸쳐 수준별로 구성된 통제 코퍼스를 활용해 직접 주장(L1), 맥락적 위장(L2), 외견상 공동입증(L3) 3단계 공격 수준에서 10개 에이전트를 평가했다. 그 결과 공동입증 함정에서 증거 인식 능력이 저하되고, 에이전트형 검색은 증거 인식이나 유용성 개선 없이 최종 저항력만 높이며, 방어 프롬프트는 검증은 늘리지만 이를 회복으로 거의 연결시키지 못하는 패턴이 반복적으로 나타났다.
- •노출부터 회복까지 전체 굤적을 추적하는 GEO 오염 벤치마크 HAE-GEO 제안
- •8개 제품군, 154개 브랜드에 걸친 통제 코퍼스로 3단계 공격 수준 구성
- •공동입증 함정(L3)에서 에이전트의 증거 인식 능력이 뜵렵하게 저하
- •에이전트형 검색은 증거 인식·유용성 개선 없이 최종 저항력만 높임
- •방어 프롬프트는 검증은 늘리지만 실제 회복으로는 거의 이어지지 않음
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Evaluating Deep-Search Agents under Hierarchical Web Evidence Poisoning
- 1.검색증강 LLM 에이전트의 GEO 오염 취약성 전과정 추적 벤치마크 HAE-GEO 제안
- 2.노출→검증→회복까지 3단계 공격강도로 측정, 직접주장·맥락위장·표면적 뒷받침
- 3.8개 제품군·154개 브랜드, 정상 7만2천·오염 770페이지 코퍼스로 10개 에이전트 평가
- 4.뒷받침 위장 공격에서 증거인식 저하, 방어 프롬프트는 회복으로 잘 안 이어짐
왜 중요한가?
소비자 의사결정에 쓰이는 검색 에이전트가 조작된 웹 콘텐츠에 얼마나 취약한지, 특히 겉보기 신뢰성이 높은 공격일수록 회복이 어렵다는 점을 정량화해 GEO 오염 방어 설계에 구체적 과제를 제시한다.
언급 프로젝트
본문 미리보기
arXiv:2609.06027v1 Announce Type: new Abstract: Search-augmented LLM agents are increasingly used for consumer decisions, making them vulnerable to Generative Engine Optimization (GEO) poisoning. Existing benchmarks largely measure whether manipulated content is retrieved or endorsed, but do not track whether an agent verifies suspicious evidence, revises adopted claims, or recovers before producing its final recommendation. We introduce HAE-GEO, a benchmark that tracks the full trajectory from
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안
![[10월8일] “수학 문제 4000개에 AI 투입해 성과”…오픈AI가 보여준 과학연구의 변화](https://cdn.aitimes.com/news/photo/202610/216072_220045_048.png)
