Belief Engine(BE)은 LLM 기반 다중 에이전트 심의에서 입장 변화의 원인을 추적하고 설명할 수 있는 감사 가능한 신념 업데이트 레이어다. 신념을 명제에 대한 증거 상태로 처리하고 증거 흡수율과 사전 고정 파라미터로 제어되는 로그 오즈 규칙으로 입장을 업데이트한다. 인간 심의 데이터셋 DEBATE에서 BE는 추출된 증거를 따르는 참여자의 최종 입장을 가장 잘 재현했다. 프롬프트 숨김 효과 대신 명시적 업데이트 가정에 기반해 증거 기반 심의의 개방성, 수렴, 이견을 연구할 수 있는 구성 가능한 인프라를 제공한다.
- •BE는 신념을 명제에 대한 증거 상태로 처리하고 로그 오즈 규칙으로 스칼라 입장을 업데이트한다.
- •증거 흥수율과 사전 고정 파라미터로 입장 동학을 세밀하게 제어하며 증거 수준 업데이트 추적을 노옶한다.
- •DEBATE 데이터셋에서 증거를 따르는 참여자의 최종 입장을 가장 잘 재현한다.
- •프롬프트 효과가 아닌 명시적 업데이트 가정에 기반한 증거 기반 심의 연구 인프라를 구축한다.
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Belief Engine: Configurable and Inspectable Stance Dynamics in Multi-Agent LLM Deliberation
- 1.Belief Engine은 LLM 에이전트의 신뢰 업데이트를 증거 기반으로 감사 가능하게 만드는 레이어
- 2.입장 변화를 증거 흡수·앵커링·역할 드리프트 등 원인별로 투명하게 추적 가능
- 3.로그-오즈 규칙으로 증거 흡수율과 사전 앵커링을 제어해 신뢰 역학 형성
- 4.인간 토론 데이터셋(DEBATE)에서 참가자의 최종 입장 변화 재구성에 효과적
왜 중요한가?
AI 에이전트의 협상·갈등 해결 시뮬레이션에서 입장 변화 원인을 투명하게 설명할 수 있어 AI 해석 가능성 및 책임성 향상에 중요한 기여를 한다.
언급 프로젝트
본문 미리보기
arXiv:2605.15343v1 Announce Type: new Abstract: LLM-based agents are increasingly used to simulate deliberative interactions such as negotiation, conflict resolution, and multi-turn opinion exchange. Yet generated transcripts often do not reveal why an agent's stance changes: movement may reflect evidence uptake, anchoring, role drift, echoing, or changed prompt and retrieval context. We introduce the Belief Engine (BE), an auditable belief-update layer that treats "belief" as an evidential sta
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 13:10AI 초안
