연구진은 추천 시스템을 겨냥한 협업형 실링 공격 프레임워크 AGAS(Agentic Group Attack System)를 제안했다. 중앙 코디네이터가 역할을 바꿔가며 활동하는 다수의 워커 에이전트를 지휘해 여러 피해자 그룹에 걸쳐 특정 상품의 노출 순위를 적응적으로 끌어올린다. 동일한 공격 예산과 평가 프로토콜에서 AGAS는 기존 강력한 베이스라인보다 목표 상품 홍보 효과가 높으면서도 정상 추천 품질 저하가 적고 주요 탐지기를 더 잘 무력화했다. 이는 개별 가짜 프로필 차단만으로는 적응형 실링 캠페인을 막기 어렵다는 점을 보여준다.
- •코디네이터가 워커 에이전트의 활성/비활성 역할을 동적으로 조정해 반복 패턴 탐지를 회피
- •동일 공격 예산에서 기존 실링 공격 대비 순위 상승 효과와 효율성 모두 우수
- •정상 추천 품질 저하를 최소화하면서 대표적 실링 탐지기를 약화시킴
- •코드가 GitHub에 공개돼 추천 시스템 보안 연구에 활용 가능
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
An Efficient and Effective Agentic Group Shilling Attack on Recommender Systems
- 1.코디네이터가 역할전환형 워커 에이전트 그룹을 지휘하는 에이전트형 그룹 셔틈링 공격 시스템 AGAS 제안
- 2.타겟별 파인튜닝이나 고정 프로필 템플릿에 의존하던 기존 공격의 적응성·탐지회피 한계 극복
- 3.진행이 막히거나 탐지신호가 커지면 코디네이터가 전략을 동적으로 조정
- 4.동일 공격예산에서 기존 강력한 기준선 대비 타겟 아이템 노출 촉진 성능과 효율 모두 우위, 코드 공개
왜 중요한가?
적응형 다중 에이전트 방식의 추천시스템 조작 공격이 기존 탐지기를 약화시키면서도 더 효율적으로 작동함을 보여, 플랫폼들이 고립된 가짜 프로필 탐지를 넘어 협조적 에이전트 캠페인에 대응하는 방어체계를 갖춰야 함을 시사한다.
언급 프로젝트
국내 이커머스, 콘텐츠 스트리밍 등 다양한 온라인 플랫폼에서 추천 시스템은 사용자 경험과 구매 결정에 지대한 영향을 미칩니다. 효율적이고 효과적인 에이전트 그룹 쉴링 공격에 대한 이번 연구는 국내 기업들이 추천 시스템의 공정성과 신뢰성을 유지하기 위해 지속적으로 고도화된 방어 전략을 구축해야 함을 보여줍니다. 소비자 보호 및 시장의 투명성 측면에서도 주목해야 할 부분입니다.
본문 미리보기
arXiv:2609.09551v1 Announce Type: new Abstract: Recommender systems have become core infrastructure for modern online platforms, personalizing content at scale and strongly influencing what users see, click on, and purchase. However, this dependence on user interaction also exposes them to shilling attacks, where malicious actors can inject fake profiles to distort item rankings and control visibility. Existing attacks often rely on target-specific fine-tuning or fixed profile templates, making
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안

![[10월12일] AI가 암을 치료해도 원리를 알아야 할까…수학자 타오의 질문에 쏟아진 반론](https://cdn.aitimes.com/news/photo/202610/216150_220160_1157.jpg)

