AgenticCANN은 NPU 추론 성능에 핵심적이지만 깊은 하드웨어 전문성을 요구하는 어센드 C(Ascend C) 연산자 최적화를 위해, 저자원 NPU 환경에 특화된 지식 증강 에이전트 진화 프레임워크를 제안한다. 생성 생애주기 전반에 구조화된 다단계 도메인 지식을 제공하는 지식 오케스트레이션 시스템으로 상류 타당성 병목을 해결하고, 생성·진화 단계별로 LLM 상호작용 방식을 동적으로 맞추는 단계 적응형 에이전트 진화 전략으로 탐색과 성능 튜닝의 균형을 맞춘다. 화웨이 어센드 910B에서 다섯 가지 패턴 범주에 걸친 여섯 개 연산자로 실험한 결과 원소별·정규화 연산자에서 90~100%의 타당성을 달성했고 융합 연산자에서는 56%, 1B Pangu 모델 추론 커널에서는 최대 6.65배의 속도 향상을 보였다. 지식 주입은 원소별 연산자의 타당성을 57%에서 86%로 단조 증가시켜 범용적 효과임을 입증했다.
- •저자원 NPU 환경 특화 어센드 C 연산자 자동 생성 지식증강 에이전트 진화 프레임워크
- •화웨이 어센드 910B 6개 연산자 실험: 원소별·정규화 연산자 90~100% 타당성 달성
- •융합 연산자 56% 타당성, 1B Pangu 모델 추론 커널 최대 6.65배 속도 향상
- •지식 주입으로 원소별 연산자 타당성 57%→86% 단조 증가, 범용적 효과 확인
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
AgenticCANN: Automated Ascend C Operator Generation via Knowledge-Augmented Agentic Evolution
본문 미리보기
arXiv:2607.26661v1 Announce Type: new Abstract: Ascend C operator optimization is critical for NPU (Neural Processing Unit) inference performance but requires deep hardware expertise.While large language models (LLMs) have shown promise in automated CUDA kernel generation, the fundamentally different programming model of Ascend C introduces unique challenges that remain unexplored. In this paper, we propose AgenticCANN, a knowledge-augmented agentic evolution framework specifically tailored for
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:49AI 초안

