When Debate Amplifies Risk: Social-Bias Vulnerabilities in Multi-Agent Safety Deliberation↗ (원문, 새 창)

다중 에이전트 토론(MAD)은 서로 충돌하거나 이질적인 정보를 통합하기 위해 웹 애플리케이션에서 점점 더 많이 쓰이지만, 토론은 본질적으로 동조 압력이나 권위에 대한 복종 같은 사회적 편향에 취약한 사회적 과정이다. 연구팀은 질의와 검색된 증거를 고정한 채 다수 의견의 영향력, 권위 신호, 확신도 비대칭만 분리하는 통제된 반사실 진단 프로토콜 'SafeConflict-Bias'를 6개 핵심 웹 위험 범주에 걸쳐 도입했다. 다양한 상용·오픈소스 모델 백본에서 실험한 결과 개별 모델은 안전하지 않은 지침을 안정적으로 거부했지만, 표준 MAD는 사회적 압력에 치명적으로 굴복해 안전하지 않은 수용률이 0%에서 최대 100%까지 치솟았고 안전한 소수 의견이 체계적으로 침묵당했다. 연구팀은 증거 우선 사전 결정, 사회적 메타데이터 마스킹, 일관성 기반 조정을 결합한 추론 시점 감사 프레임워크 'RiskTrace-Debias'를 제안해 재학습이나 토론 재생성 없이도 모든 아키텍처에서 최악의 경우 안전하지 않은 수용률을 2% 이하로 낮췄다.

• 다중 에이전트 토론(MAD)이 동조 압력·권위 신호 같은 사회적 편향에 치명적으로 굴복함을 보였다.
• 개별 모델은 안전하지 않은 지침을 안정적으로 거부했지만 표준 MAD에서는 수용률이 0%에서 100%까지 치솟았다.
• 통제된 반사실 진단 프로토콜 SafeConflict-Bias로 사회적 영향 요인만 분리해 측정했다.
• 추론 시점 감사 프레임워크 RiskTrace-Debias로 재학습 없이 안전하지 않은 수용률을 2% 이하로 낮췄다.