심사형 멀티 에이전트 시스템에서 메시지 교환과 신뢰 수정이 상호작용하는 과정에서 합의·자신감·권위·다수가 증거처럼 취급되는 '동조 효과'로 고신뢰 오류 수렴이 일어날 수 있다. PBRC(Preregistered Belief Revision Contracts)는 공개 통신과 허용 가능한 인식 변화를 엄격히 분리하는 프로토콜 레벨 메커니즘. 계약에 1차 증거 트리거, 허용 수정 연산자, 우선순위 규칙, 폴백 정책을 공개 고정하고 외부 검증된 증거 토큰이 제공될 때만 비폴백 수정 수용. 보수적 폴백 하에서 사회적 라운드만으로는 신뢰가 올라갈 수 없음을 증명해 동조 캐스케이드 방지.
- •멀티 에이전트 동조 효과로 인한 고신뢰 오류 수렴 문제
- •PBRC — 공개 통신과 인식 변화 수정을 엄격 분리
- •1차 증거 트리거·수정 연산자·폴백 공개 고정
- •사회적 라운드만으로 신뢰 상승 불가 증명
- •토큰 불변 계약에서 감사 가능한 신뢰 경로 보장
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Preregistered Belief Revision Contracts
- 1.멀티 에이전트 시스템의 동조 효과 수학적으로 방지
- 2.공개 증거 트리거 기반 인식 변화만 허용
- 3.AI 에이전트 협업의 감사 가능성 확보
왜 중요한가?
멀티 에이전트 시스템이 엔터프라이즈·공공 AI 의사결정에 투입되는 시점에서 '다수 의견에 끌려가는' 위험을 수학적으로 막는 프로토콜. AI 거버넌스의 실용 도구.
언급 프로젝트
본문 미리보기
arXiv:2604.15558v1 Announce Type: new Abstract: Deliberative multi-agent systems allow agents to exchange messages and revise beliefs over time. While this interaction is meant to improve performance, it can also create dangerous conformity effects: agreement, confidence, prestige, or majority size may be treated as if they were evidence, producing high-confidence convergence to false conclusions. To address this, we introduce PBRC (Preregistered Belief Revision Contracts), a protocol-level mec
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 13:32AI 초안
