Consilium Protocol은 BFT에서 파생된 멀티 모델 AI 심의 아키텍처로, 모델 간 불일치를 오류가 아닌 인식론적 신호로 취급한다. 1,478회 심의 세션(10개 도메인, 32개 주제)에서 인지 페르소나가 기반 모델보다 인식론적 행동을 결정함을 확인했으며, 0.0002 USD 무료 엣지 모델이 10.69 USD 프론티어 모델과 동등한 분석 품질을 보였다. RLHF 정렬 훈련이 도메인별 맹점을 만들어 AI 안전 주제에서 +11.6% 비대칭 편향이 발견됐으며, 전체 실험 비용 217 USD로 MIT 라이선스 공개된다.
- •인지 페르소나와 가 기반 모델보다 인식론적 행동을 결정한다: 0.0002 USD 무료 모델이 10.69 USD 프론티어 모델과 동등한 분석을 제공한다.
- •RLHF 정렬 훈련이 도메인별 맹점을 만든다: 논쟁적 정책 주제에서 정착된 과학보다 적대적 도전이 12.3%p 적고, AI 안전 주제에서 11.6% 비대칭 편향이 발견됩다.
- •In-Sample/Out-of-Sample 검증 프레임워크로 239개 주장 100% 증거 검색과 167개 맹점 발견을 달성하며 훈련 데이터 합의와 경험적 근거 결론을 구별한다.
- •무작위 모델×페르소나 배정에서 실행 재현성은 평균 ±2.2% 표준편차로 안정적이며 전체 실험 비용은 217 USD다.
Emergent Collaborative Deliberation in Multi-Model AI Systems: A BFT-Derived Protocol for Epistemic Synthesis
- 1.모델 간 불일치를 오류가 아닌 인식론적 신호로 다루는 BFT 기반 다중모델 심의 'Consilium 프로토콜'
- 2.32개 주제 1,478회 심의 결과, 기반 모델보다 '인지 페르소나'가 인식 행동을 좌우
- 3.배치당 0.0002달러 무료 모델이 10.69달러 프런티어 모델과 대등한 분석 산출
- 4.RLHF 정렬이 도메인별 인식 사각지대 유발, AI 안전 주제에서 비대칭 편향(Δ=11.6%) 측정
왜 중요한가?
RLHF 정렬이 만드는 측정 가능한 도메인별 편향과 사각지대를 정량화하고, 비싼 프런티어 모델 없이도 저렴한 모델 조합으로 동등한 심의 품질을 낼 수 있음을 1,478회 세션으로 실증했다.
🏷️ 언급 프로젝트
다중 모델 AI 시스템에서 모델 간 불일치를 에러가 아닌 '인식론적 신호'로 활용하는 Consilium 프로토콜은 매우 혁신적입니다. 블록체인의 BFT(비잔틴 장애 허용) 개념을 AI 의사결정에 접목하여 시스템의 견고성을 높이는 기술은 한국 기업들이 AI 신뢰성을 확보하고 주요 산업 분야에 AI를 적용하는 데 중요한 시사점을 제공합니다.
본문 미리보기
arXiv:2606.00005v1 Announce Type: new Abstract: We present the Consilium Protocol, a Byzantine Fault Tolerance-derived architecture for structured multi-model AI deliberation that treats inter-model disagreement as epistemic signal rather than error. The protocol assigns engineered cognitive personas to language models -- separating what a model is from how it reasons -- and introduces an In-Sample/Out-of-Sample validation framework adapted from quantitative finance to distinguish training-data
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
