그럴듯한 계정들이 공동으로 평점·순위·참여도를 왜곡하는 협조적 조작은 본질적으로 집단적 현상이지만, 기존 방어는 주로 계정 신원·그래프·콘텐츠·동시활동에서 증거를 구성한다. 이 논문은 맥락 수준 결과 분포의 왜곡 자체를 1차 증거 객체로 삼는 '집계 우선' 증거 계층을 도입해, 신원 정보 없이 히스토그램·카운트·해상도·참조 분포만으로 판단한다. 원시 편차의 기댓값이 항상 양수인 유한표본 특성을 고려해 매칭된 귀무 기댓값을 빼는 방식으로 부호 있는 증거를 얻고, 참여 로그에 걸쳐 이를 누적한다. 아마존 리뷰 데이터의 통제된 회전 실험과 반사실적 개입 평가에서, 재사용을 늘려가며 조작 이벤트를 재배정한 계정 점수의 ROC-AUC는 0.500에서 0.797로, 평균 보존 형태 개입에서는 Wasserstein-1·Jensen-Shannon 증거가 각각 0.909·0.967을 기록했고, 집계 증거를 반복 동시활동과 결합하면 혼합 메커니즘 ROC-AUC가 0.750에서 0.874로 향상됐다.
- •계정 신원 없이 결과 분포의 집계 왜곡만으로 판단하는 '집계 우선' 증거 계층 제안
- •매칭된 귀무 기대값을 빼 부호 있는 증거를 얻고 참여 로그에 걸쳐 누적하는 방식 채택
- •아마존 리뷰 데이터 실험에서 조작 이벤트 재사용 증가 시 ROC-AUC가 0.500→0.797로 상승
- •집계 증거를 반복 동시활동과 결합하면 혼합 메커니즘 ROC-AUC가 0.750→0.874로 향상
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Principled Detection of Coordinated Manipulation from Aggregate Distortion and Account Reuse
- 1.개별 계정 신원 대신 집계 수준의 평점·순위 분포 왜곡을 1차 증거로 삼는 협조적 조작 탐지 기법 제시
- 2.아마존 리뷰 데이터와 반사실적 '클린 트윈' 실험에서 계정 재사용 증가 시 ROC-AUC 0.500→0.797로 상승
- 3.분포 형태 왜곡 개입 실험서 Wasserstein-1·젠슨-섀넌 증거가 ROC-AUC 0.909·0.967 기록, 빈도 기반 탐지는 무력화
- 4.집계 증거와 반복 동시활동 탐지를 결합하면 혼합공격 탐지 ROC-AUC가 0.750에서 0.874로 개선
왜 중요한가?
봇 계정 신원 파악이 어려운 상황에서도 집계 분포 왜곡만으로 조작을 탐지할 수 있음을 실증해, 리뷰·평점 플랫폼의 허위 참여 방어 체계를 신원 기반 탐지에서 분포 기반 탐지로 보완할 근거를 제공한다.
본문 미리보기
arXiv:2609.13407v1 Announce Type: new Abstract: Coordinated manipulation is collective: plausible accounts can jointly distort ratings, rankings, and engagement. Existing defenses primarily construct evidence from identities, graphs, content, or co-activity. We introduce an aggregate-first evidence layer that treats distortion of a context-level outcome distribution as the primary evidence object. The engine observes only a histogram, count, resolution, and reference distribution; identities ar
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안

![[10월12일] AI가 암을 치료해도 원리를 알아야 할까…수학자 타오의 질문에 쏟아진 반론](https://cdn.aitimes.com/news/photo/202610/216150_220160_1157.jpg)

