Data-Void Exploits in Web-Searching LLMs↗ (원문, 새 창)

연구팀은 검색 공간에 신뢰할 만한 정보가 부족한 '데이터 보이드'에 허위 정보를 심어 웹 검색 LLM의 응답에 포함시키는 공격을 분석했다. ChatGPT, Gemini, Sonar Pro를 대상으로 회의적·기대적·중립적 등 프롬프트 어조와 5가지 공격 전략, 콘텐츠 가시성 수준을 조합해 실험한 결과, 공격자가 통제한 페이지가 하나만 있어도 공격이 성공할 수 있었다. 전체 조건에서 공격자 콘텐츠가 LLM 응답에 포함된 비율은 31%에 달했으며, 회의적 프롬프트가 성공률을 약간 낮추고 경고 표시를 약간 늘렸을 뿐 프롬프트 어조나 모델 선택에 따른 뚜렷한 차이는 없었다. 이는 데이터 보이드가 웹 검색 LLM을 조작할 수 있는 실질적인 추론 시점 공격 표면이며, 방어책 마련이 시급함을 보여준다.

• 신뢰 정보가 부족한 '데이터 보이드'에 허위 정보를 심어 웹 검색 LLM을 조작하는 공격 분석
• 공격자가 통제한 페이지 단 하나만으로도 공격이 성공, 전체 응답의 31%에 공격 콘텐츠 포함
• 회의적 프롬프트 어조가 성공률을 소폭 낮추지만 모델 선택에 따른 뚜렷한 차이는 없음
• 데이터 보이드가 실질적인 추론 시점 공격 표면이며 방어책 마련이 시급하다는 결론