AI 에이전트가 공유 지식 생태계의 협업 참여자로 전환되면서 집단적 지식 큐레이션 거버넌스가 핵심 과제로 부상한다. 이 논문은 레이블 전환 시스템 기반 지식 아티팩트 생명주기, 베타 평판과 EigenTrust 증폭을 결합한 평판 가중 심의 투표, 상태 없는 에이전트에 맞춘 단계적 제재로 구성된 3계층 심의 큐레이션 프로토콜을 제안한다. 100개 에이전트·7개 행동 유형 시뮬레이션에서 중등도 역경 하에 다수결 대비 정밀도 0.826 vs 0.791, 극한 역경 하에 0.807 vs 0.740을 달성하며 약 3배 더 느린 성능 저하를 보였다.
- •AI 에이전트의 무상태성·모델 동질성·아첨 경향으로 기존 인간 플랫폼 거버넌스가 직접 적용되지 않아 새로운 거버넌스 설계가 필요하다.
- •commit-reveal 투표 은닉이 단일 컴포넌트 중 가장 큰 효과(8.2~8.6%p 정밀도 향상, p<0.001)를 보이며 평판 가중치와 심의를 합친 것보다 크다.
- •100개 에이전트, 7개 행동 유형, 2개 역경 시나리오 시뮬레이션에서 다수결 대비 약 3배 더 느린 성능 저하를 입증했다.
- •단계적 제재는 시뮬레이션에서 발동되지 않아 경험적 검증이 다소 부족한 한계가 있다.
Deliberative Curation: A Protocol for Multi-Agent Knowledge Bases
본문 미리보기
arXiv:2606.00007v1 Announce Type: new Abstract: As AI agents transition from isolated tools to collaborative participants in shared knowledge ecosystems, governing collective knowledge curation becomes a critical challenge. Human platform governance mechanisms do not transfer directly: agent statelessness undermines deterrence-based sanctions, model homogeneity violates independence assumptions underlying crowd wisdom, and sycophancy collapses deliberative consensus. We propose a deliberative
전체 내용이 궁금하다면?
원문을 직접 읽어보세요