이 논문은 생성형 검색엔진을 악의적인 생성 엔진 최적화(GEO)로부터 방어하는 방법을 다룬다. GEO는 웹 문서를 검색엔진의 인용 선호에 맞게 다시 써서 생성된 답변을 조작하는 기법으로, 최근에는 수작업 재작성에서 자동화·에이전트형 최적화로 발전해 표적 문서의 노출도를 크게 높였다. 방어가 어려운 이유는 공격 문서가 원본과 사실적으로 일치해 팩트체크나 혼잡도 필터링이 무력화되고, 공격이 증폭시키는 특징이 양질의 콘텐츠 특징과 동일하기 때문이다. 연구진은 대상 LLM을 미세조정할 필요 없이 공격 사슬에 맞춘 2단계 방어 'GEO Defender'를 제안한다. 고정된 기본 재순위화기 위에 선호 기반 방어 잔차를 학습하는 '실드 재순위화기'와 방어 결과를 자연어 경험 라이브러리로 증류하는 '학습 없는 실드 생성(TFSG)'으로 구성되며, 폐쇄형 LLM 2종과 오픈소스 LLM 3종, 7가지 GEO 공격 실험에서 평균 공격 성공률을 50.32%에서 6.20%로 낮추면서도 양질의 근거 사용은 94.12% 유지했다.
- •웹 문서를 재작성해 생성형 검색 답변을 조작하는 GEO 공격에 대한 방어 기법 GEO Defender 제안
- •공격 문서가 원본과 사실적으로 일치해 팩트체크·혼잡도 필터링이 무력화되는 문제 지적
- •실드 재순위화기(선호 기반 방어 잔차 학습)와 학습 없는 실드 생성(TFSG)의 2단계 방어로 구성
- •대상 LLM 미세조정 없이 적용 가능, 자연어 경험 라이브러리로 방어 지식 전달
- •폐쇄형 LLM 2종·오픈소스 3종·7가지 공격 실험에서 공격 성공률 50.32%→6.20%로 감소, 양질 근거 사용 94.12% 유지
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
When Optimization Becomes Manipulation: Defending Generative Search against Malicious Generative Engine Optimization
- 1.GEO Defender 공개, 생성형 검색엔진을 노리는 악성 GEO(생성엔진최적화) 조작 문서 대응 2단계 방어체계
- 2.Shield Reranker가 동결된 베이스 리랭커 위에 선호기반 방어잔차를 학습해 조작문서를 감점 처리
- 3.Training-Free Shield Generation이 방어결과를 자연어 경험 라이브러리로 증류, 대상 LLM 미세조정 불필요
- 4.2개 폐쇄형·3개 오픈소스 LLM, 7종 GEO공격서 평균 공격성공률 50.32%→6.20%, 양성근거 활용 94.12% 유지
왜 중요한가?
사실관계는 그대로 유지한 채 인용 선호만 조작하는 새로운 유형의 검색엔진 공격에 대해, 팩트체크나 퍼플렉시티 필터링이 통하지 않는 상황에서도 효과적인 방어 수단을 제시한다.
언급 프로젝트
본문 미리보기
arXiv:2609.02964v1 Announce Type: new Abstract: This paper focuses on defending generative search engines against malicious Generative Engine Optimization (GEO), which rewrites web documents to match engines' citation preferences and thereby manipulates generated answers. Recent GEO methods have advanced from hand-crafted rewriting to automated and agentic optimization, substantially increasing the visibility of target documents in generated answers. However, defending against such manipulation
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안
![[AI리더의 서가] Agentic AI 구축 개발의 모든 것](https://cdn.aitimes.com/news/photo/202610/215958_219938_244.jpg)
