KAIST 이재길 교수 연구팀이 소형 온디바이스 AI와 서버의 대형 AI를 연결하되, 서버로부터 받은 답변을 기기에 축적해 재사용하는 협업 프레임워크 'CURE(누적 지식 재사용)'를 개발했다고 22일 밝혔다. CURE는 소형 AI가 스스로 처리 가능한지 먼저 판단하고, 어려우면 기기에 저장된 서버 지식을 활용하며, 그마저 부족할 때만 서버에 문의하는 3단계 추론 방식을 적용해, 서버에서 받은 결과를 요약된 핵심 특징 형태로 저장하고 재사용함으로써 서버 호출 빈도를 점차 줄여나간다. 이미지넷 벤치마크 실험에서 CURE의 정확도는 82.43%로 모든 이미지를 서버에 보낸 경우(83.68%)와 대등한 수준을 유지하면서도, 서버 호출 횟수는 평균 55.61% 감소했고 처리 속도는 기존 협업 방식 대비 최대 2.80배, 전량 서버 처리 방식 대비 최대 3.67배 빨라졌다. 기존 모델의 가중치 변경이나 재학습 없이 적용 가능해 지식 증류 기법과는 구분되며, 스마트폰·로봇·웨어러블 등 자원 제한 기기의 응답 지연과 서버 운영 부담을 낮추는 데 기여할 것으로 기대된다.
- •KAIST 이재길 교수팀, 소형-대형 AI 협업 프레임워크 'CURE' 개발(22일 발표)
- •소형AI 자체처리→기기 축적지식 활용→서버 문의의 3단계 추론으로 서버 호출 최소화
- •이미지넷 정확도 82.43%(전량 서버 83.68%와 대등), 서버 호출 55.61% 감소
- •처리 속도 기존 협업 대비 최대 2.80배, 전량 서버 처리 대비 최대 3.67배 향상
- •재학습·가중치 변경 불필요해 지식 증류와 구분, 온디바이스 기기 적용 목표
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
KAIST, ‘지식 재사용’으로 서버 호출 57% 줄였다…“증류·추가학습 필요 없어”
- 1.KAIST 이재길 교수팀, 기기 내 소형 AI와 서버 대형 AI를 연결하는 '누적 지식 재사용(CURE)' 프레임워크 개발
- 2.소형 AI 자체 처리→기기 축적 지식 활용→서버 호출 순 3단계 추론으로 서버 의존도 절감
- 3.이미지넷 기준 정확도 82.43%로 서버 단독(83.68%)과 대등, 서버 호출 횟수는 평균 55.61% 감소
- 4.처리속도는 기존 협업 대비 최대 2.80배, 서버 단독 대비 최대 3.67배 향상, 추가 학습 불필요
왜 중요한가?
모델 가중치 변경이나 재학습 없이도 서버 호출을 절반 이상 줄이면서 정확도를 유지해, 스마트폰·로봇 등 자원 제한 기기의 응답속도와 서버 비용을 함께 개선할 수 있다.
언급 프로젝트
본문 미리보기
국내 연구진이 한 번 얻은 지식을 기기 내부 저장소에 쌓아뒀다가 재사용하는 온디바이스 AI 기술을 개발했다. 기존 모델을 추가로 학습시킬 필요 없이 대형 AI 모델에 대한 서버 의존도를 낮춘 것이 특징이다.한국과학기술원(KAIST, 총장 배충식)은 이재길 전산학부 교수 연구팀이 기기의 소형 AI와 서버의 대형 AI를 효율적으로 연결하는 협업 프레임워크 ‘CURE(Cumulative Knowledge Reuse, 누적 지식 재사용)’를 개발했다고 22일 밝혔다.연구팀은 문제 난이도에 따라 필요한 연산량이 다르다는 점에 착안했다. 소형
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안
