CogGuard는 엣지 지능형 서비스에서 대상이 들어오는 작업을 성공적으로 완수할지 지연·프라이버시 제약 아래 예측하는 '사전 경고' 프레임워크다. 오프라인 LLM 기반 프로필 구축과 온라인 SLM 기반 점수 예측을 공유 정적-동적 프로필-점수 파이프라인으로 분리하고, 교육 성과 경고와 운영 작업 결과 경고 두 시나리오에 적용한다. 효율적 프로필 구축을 위해 접두 정렬 KV 캐시 재사용을, 엣지 모델 정렬을 위해 대조 정규화를 갖춘 길이 인지형 분산 미세조정을 설계한다. 실험에서 프로필 구축 시간을 최대 48%, 분산 미세조정 시간을 19% 줄이고 100점 척도에서 MAE 13.4·5.9를 달성했으며, 최대 교육 설정에서 최강 기준선 대비 예측 오차를 15.4% 낮췄다.
- •엣지 지능형 서비스의 작업 성공 여부를 예측하는 사전 경고 프레임워크 CogGuard
- •오프라인 LLM 프로필 구축과 온라인 SLM 점수 예측을 공유 파이프라인으로 분리
- •접두 정렬 KV 캐시 재사용으로 프로필 구축 시간 최대 48% 절감
- •대조 정규화 갖춘 길이 인지형 분산 미세조정으로 이기종 클러스터 부하 불균형 완화, 시간 19% 단축
- •100점 척도 MAE 13.4·5.9, 최대 교육 설정서 최강 기준선 대비 오차 15.4% 감소
CogGuard: Cognitive and Operational Profiling for Proactive Warning in Edge Intelligent Services
본문 미리보기
arXiv:2606.15199v1 Announce Type: new Abstract: Proactive warning is an important capability for edge intelligent services, where the system predicts whether a subject will successfully complete an incoming task under strict latency and privacy constraints. Such prediction depends on both long-term static attributes and short-term dynamic states derived from historical interaction logs. Recent Large Language Models (LLMs) offer strong long-context reasoning for constructing structured profiles
전체 내용이 궁금하다면?
원문을 직접 읽어보세요