A-LEMS(Agentic LLM Energy Measurement System)는 에이전트 AI 시스템의 에너지 회계 단위를 추론당 에너지에서 '성공적 목표당 에너지(EpG)'로 재정의하는 교차 계층 측정 프레임워크다. 5가지 추론 및 3가지 도구 증강 태스크 패밀리에서 에이전트 워크플로우는 선형 기준선보다 평균 4.33배 높은 EpG(888.1 J vs 205.3 J)를 소비하며, 이는 추론 연산이 아닌 오케스트레이션 구조에 의해 주도된다. 반면 도구 증강 태스크에서는 오케스트레이션 오버헤드 지수(OOI)가 1.0 이하로 역전되어 에이전트 실행이 선형보다 에너지 효율적임을 확인했다. EpG와 OOI는 오케스트레이션 구조가 에너지 비용의 주요 결정 요인임을 드러내는 정확한 에이전트 AI 벤치마킹의 기반을 제공한다.
- •추론 태스크에서 에이전트 워크플로우 EpG는 선형 기준선 대비 평균 4.33배(888.1 J vs 205.3 J), 오케스트레이션 구조가 주요 원인
- •도구 증강 태스크에서 OOI가 1.0 이하로 역전 — 에이전트 실행이 오케스트레이션 구조상 선형보다 에너지 효율적
- •5계층 관측 파이프라인: RAPL 신호를 워크플로우 레벨 에너지로 매핑하는 재현 가능 측정 프로토콜
- •에너지-퍼-추론은 에이전트 AI에 부적절, EpG·OOI가 정확한 벤치마킹을 위한 새로운 토대
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Energy per Successful Goal: Goal-Level Energy Accounting for Agentic AI Systems
- 1.A-LEMS는 에이전트 AI 에너지 측정 단위를 단일 추론에서 'EpG(목표당 성공 에너지)'로 재정의
- 2.에이전트 워크플로우가 선형 기준 대비 평균 4.33배(888.1J vs 205.3J) 높은 에너지 소비, 오케스트레이션 구조가 주요 원인
- 3.도구 증강 태스크에서 OOI가 1.0 이하로 역전, 에이전트 실행이 선형보다 저렴해 오케스트레이션 구조가 편향 없음 확인
왜 중요한가?
추론당 에너지 지표가 에이전트 AI의 실제 비용을 과소평가함을 실증하고, EpG·OOI라는 새 측정 기준으로 에이전트 설계 선택이 에너지에 미치는 영향을 정량화해 지속가능한 AI 개발에 직접 활용 가능하다.
언급 프로젝트
본문 미리보기
arXiv:2605.22883v1 Announce Type: new Abstract: Current AI energy benchmarks measure consumption at the granularity of a single model invocation or training run. For classical single-turn workloads this unit remains coherent. For agentic systems - where a single user goal may trigger multi-step orchestration, tool calls, retries, and failure-recovery cycles - the invocation count is an implementation artifact rather than a task property, and inference-level normalization misrepresents the energ
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 13:12AI 초안
