SCG(Semantic Cooperative Games)는 LLM 멀티에이전트 시스템에서 각 에이전트의 기여도를 재실행 없이 산정하는 프레임워크다. 에이전트 제거·부분집합 비교 같은 기존 반사실적 방법은 반복 호출 비용과 높은 분산이 문제였는데, SCG는 실제 언어 흐름을 의미 생성 하이퍼그래프로 표현하고 그 위에서 Semantic Shapley Value(SSV)를 정의한다. 단일 궤적 알고리즘 SLIC은 하이퍼그래프 구축, 최소 의미 지지 복원, 불리언 흡수를 거쳐 부분집합 재실행 없이 SSV를 계산하며, 표준 조건에서 고전 Shapley 값으로 환원됨을 증명했다. 의료 벤치마크에서 몬테카를로 Shapley 대비 계산 비용을 93.3% 줄이면서 높은 일관성을 유지해, 복잡한 멀티에이전트 워크플로의 해석 가능한 기여 분석 도구를 제공한다.
- •에이전트 제거·재실행 기반 반사실적 기여 분석의 비용·분산 문제를 해결하는 SCG 프레임워크 제안
- •언어 흐름을 의미 생성 하이퍼그래프로 표현하고 Semantic Shapley Value(SSV)로 기여도 배분
- •단일 궤적 알고리즘 SLIC은 재실행 없이 SSV 계산, 표준 조건에서 고전 Shapley 값으로 환원됨을 증명
- •의료 벤치마크에서 몬테카를로 Shapley 대비 계산 비용 93.3% 절감, 높은 일관성 유지
- •일반 멀티롤 워크플로에서 의미적 기여와 실패 영향이 갈리되는 사례도 포착
Semantic Cooperative Games for Contribution Attribution in LLM-Based Multi-Agent Systems
본문 미리보기
arXiv:2607.18255v1 Announce Type: new Abstract: Contribution attribution has become a central problem in LLM-based multi-agent systems, where final outputs are produced through multiple agents, message exchanges, and ordered workflow dependencies. Existing attribution methods often rely on counterfactual valuation, such as removing agents or comparing score changes across altered agent subsets. In language-mediated workflows, these methods require repeated model calls, introduce high variance,
전체 내용이 궁금하다면?
원문을 직접 읽어보세요