BatchDAG는 LLM이 SQL 쿼리, 시맨틱 검색, 인메모리 변환, 병렬 팬아웃 등의 연산으로 이뤄진 타입 지정 DAG 실행 계획을 생성하고, 결정론적 엔진이 위상 웨이브 병렬성으로 이를 실행하는 기업 데이터 분석 시스템이다. 엔티티 단위 배칭으로 LLM 호출을 최대 47배 줄였고, 12개 회의록 분석 쿼리 실험에서 품질 3.74/5로 전문가 설계 파이프라인(3.25)과 ReAct 에이전트(3.09, p<0.01)를 앞섰으며 근거 제시율도 77%로 우수했다. 구조화된 JSON 중간 결과는 산문 요약 대비 환각을 27% 줄였고, 플래너의 유효 DAG 생성률은 300회 호출에서 98.8%였다. Brevian.ai 프로덕션에서 5만 건 이상 회의 데이터를 60초 내, 쿼리당 $0.02~0.24에 처리해, 수작업 파이프라인 여러 개를 자연어 기반 단일 오케스트레이션 계층으로 대체할 수 있음을 보였다.
- •LLM이 타입 지정 DAG 실행 계획을 생성하고 결정론적 엔진이 위상 웨이브 병렬로 실행하는 구조
- •엔티티 단위 배칭으로 LLM 호출 최대 47배 감소
- •품질 3.74/5로 전문가 파이프라인(3.25)과 ReAct 에이전트(3.09) 상회, 증거 제시율 77%
- •구조화 JSON 중간 결과가 산문 요약 대비 환각 27% 감소, 유효 DAG 생성률 98.8%
- •Brevian.ai 프로덕션에서 5만 건 이상 회의 데이터를 60초 내, 쿼리당 $0.02~0.24에 처리
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
BatchDAG: LLM-Planned Execution Graphs for Scalable Ad-Hoc Analysis Over Enterprise Data
- 1.BatchDAG 공개: LLM이 SQL·의미 검색·변환 등의 타입형 DAG를 생성, 결정론적 엔진이 병렬 실행
- 2.엔티티 인지 배치온로 LLM 호출 최대 47배 절감, 플래너 유효 DAG율 98.8%
- 3.구조화 JSON 중간표현이 산문 요약 대비 환각 27% 감소, 증거율 77%로 베이스라인 압도
- 4.Brevian.ai 프로덕션에서 5만건+ 회의를 60초 내 처리, 쿼리당 비용 $0.02~0.24
왜 중요한가?
개별 문서엔 강하지만 전사 규모 횡단 분석엔 무너지던 LLM의 한계를, 계획(LLM)과 실행(결정론적 엔진)의 분리로 해결한 실전 배포 사례다. ReAct식 순차 에이전트 대비 비용·출처 추적성 모두에서 우위를 수치로 보였다.
언급 프로젝트
이 연구는 LLM이 방대한 기업 데이터를 효율적으로 분석할 수 있도록 배치DAG(BatchDAG)를 활용한 확장성 높은 임시 분석 방법을 제시합니다. 한국 기업들이 데이터 기반 의사결정을 가속화하기 위해 LLM을 적극 도입하는 상황에서, 컨텍스트 오버플로우와 같은 기존 한계를 극복하는 이 기술은 엔터프라이즈 AI 활용도를 극대화할 것입니다. 이는 기업의 디지털 전환을 지원하는 중요한 발전입니다.
본문 미리보기
arXiv:2607.18241v1 Announce Type: new Abstract: Large language models (LLMs) excel at analyzing individual documents but break down on exhaustive, cross-entity analytical questions over enterprise-scale datasets due to context overflow, loss of per-entity attribution, and linear latency from sequential tool calls. We present BatchDAG, a system in which an LLM generates a typed directed acyclic graph (DAG) of operations -- SQL queries, semantic searches, in-memory transforms, parallel fan-outs,
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 13:08AI 초안

