SCG(Semantic Cooperative Games)는 LLM 멀티에이전트 시스템에서 각 에이전트의 기여도를 재실행 없이 산정하는 프레임워크다. 에이전트 제거·부분집합 비교 같은 기존 반사실적 방법은 반복 호출 비용과 높은 분산이 문제였는데, SCG는 실제 언어 흐름을 의미 생성 하이퍼그래프로 표현하고 그 위에서 Semantic Shapley Value(SSV)를 정의한다. 단일 궤적 알고리즘 SLIC은 하이퍼그래프 구축, 최소 의미 지지 복원, 불리언 흡수를 거쳐 부분집합 재실행 없이 SSV를 계산하며, 표준 조건에서 고전 Shapley 값으로 환원됨을 증명했다. 의료 벤치마크에서 몬테카를로 Shapley 대비 계산 비용을 93.3% 줄이면서 높은 일관성을 유지해, 복잡한 멀티에이전트 워크플로의 해석 가능한 기여 분석 도구를 제공한다.
- •에이전트 제거·재실행 기반 반사실적 기여 분석의 비용·분산 문제를 해결하는 SCG 프레임워크 제안
- •언어 흐름을 의미 생성 하이퍼그래프로 표현하고 Semantic Shapley Value(SSV)로 기여도 배분
- •단일 궤적 알고리즘 SLIC은 재실행 없이 SSV 계산, 표준 조건에서 고전 Shapley 값으로 환원됨을 증명
- •의료 벤치마크에서 몬테카를로 Shapley 대비 계산 비용 93.3% 절감, 높은 일관성 유지
- •일반 멀티롤 워크플로에서 의미적 기여와 실패 영향이 갈리되는 사례도 포착
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Semantic Cooperative Games for Contribution Attribution in LLM-Based Multi-Agent Systems
- 1.SCG 제안: 멀티에이전트 언어 흐름을 의미 생성 하이퍼그래프로 표현해 기여도 산정
- 2.단일 굤적 알고리즘 SLIC은 서브셋 재실행 없이 Semantic Shapley Value 계산
- 3.표준 조건에서 고전 Shapley 값으로 환원됨을 증명, 의료 벤치마크서 계산비용 93.3% 절감
- 4.몸테카를로 Shapley 베이스라인과 높은 일치도 유지, 기여와 실패 영향 분리 사례도 포착
왜 중요한가?
기존 반사실적 기여도 평가는 에이전트 서브셋을 반복 재실행해야 해 비용과 분산이 컸다. 단일 궤적만으로 Shapley 계열 기여도를 구하는 방식은 멀티에이전트 시스템의 디버깅·과금·책임 추적을 실용 수준으로 끌어내린다.
이 논문은 다수의 LLM 에이전트가 협력하여 최종 결과물을 도출하는 시스템에서 각 에이전트의 기여도를 정확히 측정하는 '의미론적 협력 게임' 방법을 제시합니다. 복잡한 문제 해결을 위해 다중 에이전트 LLM 시스템을 도입하려는 국내 기업들에게, 각 에이전트의 역할을 명확히 이해하는 것은 시스템 신뢰성 확보와 성능 개선에 필수적입니다. 이는 AI 시스템의 투명성과 책임성을 높여, 국내에서 논의 중인 AI 윤리 가이드라인 및 미래 규제 준수에도 긍정적인 영향을 미칠 수 있습니다.
본문 미리보기
arXiv:2607.18255v1 Announce Type: new Abstract: Contribution attribution has become a central problem in LLM-based multi-agent systems, where final outputs are produced through multiple agents, message exchanges, and ordered workflow dependencies. Existing attribution methods often rely on counterfactual valuation, such as removing agents or comparing score changes across altered agent subsets. In language-mediated workflows, these methods require repeated model calls, introduce high variance,
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 13:08AI 초안

