NeuMoSync는 뇌의 전역 신경조절 메커니즘에서 영감을 받아 지속학습(Continual Learning)에서 신경망의 가소성 손실과 지식 전이 부족 문제를 해결하는 아키텍처다. 각 뉴런마다 네트워크 전체의 역사적 맥락을 추적하는 학습 가능한 특징 벡터를 부여하고, 더 높은 추상화 수준의 모듈이 현재 입력과 네트워크의 진화하는 상태에 조건화된 뉴런별 신호를 합성해 활성화 동역학과 시냅스 가소성을 적응적으로 조절한다. 무작위 라벨 CIFAR-10·MNIST(암기), 셔플 CIFAR-10·미니이미지넷(개념 표류), 클래스 분할 이미지넷·CIFAR-100(클래스 증분학습), 순열 MNIST(도메인 증분학습) 등 다양한 벤치마크에서 평가한 결과, 기존 방법 대비 순방향·역방향 적응 모두에서 개선을 보였다. 절제 실험은 각 구성요소의 필요성을 확인했고, 학습된 조절 신호 분석 결과 과제 간 해석 가능한 조율 패턴이 드러났다.
- •뇌의 전역 신경조절 메커니즘에서 영감받은 NeuMoSync, 지속학습의 가소성 손실 문제 해결 목표
- •뉴런별 학습 가능한 특징 벡터로 네트워크 전체 역사적 맥락 추적
- •상위 모듈이 현재 입력·네트워크 상태에 조건화된 뉴런별 신호로 활성화·가소성 적응적 조절
- •암기·개념 표류·클래스 증분·도메인 증분 등 8개 벤치마크에서 순방향·역방향 적응 개선
- •절제 실험으로 각 구성요소 필요성 확인, 조절 신호 분석에서 과제 간 해석 가능한 패턴 발견
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
NeuMoSync: End-to-End Neuromodulatory Control for Plasticity and Adaptability in Continual Learning
본문 미리보기
arXiv:2608.04358v1 Announce Type: new Abstract: Continual learning (CL) requires models to learn tasks sequentially, yet deep neural networks often suffer from plasticity loss and poor knowledge transfer, which can impede their long-term adaptability. Drawing high-level inspiration from global neuromodulatory mechanisms in the brain, we introduce Neuromodulation and Synchronization (NeuMoSync), a novel architecture that integrates dynamic, neuron-specific modulation into deep neural networks to
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:11AI 초안

