기업 데이터웨어하우스에 대한 자연어 분석은 중요성이 커지고 있지만, 환각 지표·잘못된 조인·잘못된 집계 수준·안전하지 않은 데이터 접근·근거 없는 설명 때문에 실제 운영에 제약이 있다. 이 논문은 LLM이 생성하는 분석 결과를 승인된 지표·차원·조인 경로·필터·행 단위 보안 규칙 등 거버넌스된 의미 계층에 제한하는 프레임워크 'GROUND'를 제안한다. GROUND는 사용자 의도를 승인된 지표·차원에 연결하고, 실행 전에 생성된 SQL을 스키마·지표·조인·집계 수준·필터·보안·비용 규칙에 대해 검증하며 위반 시 재시도하거나 응답을 보류한다. 100문항짜리 합성 기업 리포팅 벤치마크에서 GROUND는 스키마 전용, 검색증강, 의미 전용 방식과 비교해 6개 평가 범주 전체에서 환각이 전혀 없는 유일한 시스템이었고, 거버넌스가 없는 시스템은 다수의 질문에서 행 단위 보안을 위반했다. 정확한 지표 정의만 있고 접근 정책이 없는 '의미 전용' 조건도 데이터가 유출돼, 거버넌스가 지표 충실도만으로 대체될 수 없음을 보여줬다.
- •LLM 분석 결과를 승인된 지표·차원·조인·보안 규칙에 제한하는 프레임워크 'GROUND' 제안
- •100문항 벤치마크에서 6개 범주 전체 환각 0건 달성한 유일한 시스템
- •정확한 지표 정의만 있고 접근 정책 없는 조건도 데이터 유출, 거버넌스 필요성 입증
- •NHTSA 실제 데이터·4개 모델 적대적 테스트에서 필터·행단위 보안 위반 0건 유지
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
GROUND: Reducing Hallucinations in LLM-Based Enterprise Analytics Through Governed Semantic Definitions
- 1.자연어 기반 엔터프라이즈 데이터 분석은 환각 지표·잘못된 조인·행단위 보안 미준수로 실전 도입에 제약
- 2.GROUND, LLM 생성 SQL을 승인된 지표·차원·조인경로·필터·보안규칙으로 제약하는 거버넌스 시맨틱레이어 프레임워크 제안
- 3.100문항 벤치마크서 6개 평가범주 전체 환각 0건 달성한 유일 시스템, 비거버넌스 시스템은 행단위 보안 다수 위반
- 4.미 NHTSA 실제 차량안전 데이터·4개 모델(3개 제공사) 적대적 테스트에서도 필터·행단위보안 위반 0건 유지
왜 중요한가?
기업용 자연어 분석에서 LLM이 그럴듯하지만 틀린 지표·쿼리를 만들어내는 환각 문제가 실무 도입의 최대 걸림돌이었는데, GROUND는 메트릭 충실도만으로는 막지 못하는 데이터 유출(행단위 보안)까지 거버넌스 계층으로 원천 차단함을 여러 모델·실데이터로 입증해 엔터프라이즈 AI 분석 도구의 신뢰성 기준을 제시한다.
본문 미리보기
arXiv:2608.26157v1 Announce Type: new Abstract: Natural-language analytics over enterprise data warehouses is increasingly important, but production use is limited by hallucinated metrics, invalid joins, wrong grain, unsafe data access, and unsupported explanations. Existing text-to-SQL systems often ground generation in database schemas or retrieved documentation, while enterprise reporting also requires governed business semantics: approved metrics, dimensions, join paths, filters, and row-le
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:40AI 초안
![[AI리더의 서가] Agentic AI 구축 개발의 모든 것](https://cdn.aitimes.com/news/photo/202610/215958_219938_244.jpg)
