[논문 리뷰] Nonparametric Bayesian Structure Adaptation for Continual Learning.

Abhishek Kumar, Sunabha Chatterjee외 1명|arXiv (Cornell University)|2019. 12. 08.

Domain Adaptation and Few-Shot Learning인용 수 4

한 줄 요약

이 논문은 지속적 학습 중에 작업별 희소 가중치 부분집합을 학습함으로써 신경망 아키텍처를 동적으로 증가시키는 비모수 베이지안 방법을 제안한다. 중첩된 가중치를 통해 작업 간 전이를 가능하게 하며, 사전 아키텍처 제약 없이 네트워크 구조를 자동으로 적응시키면서 기준 데이터셋에서 최신 기술 성능을 달성한다.

ABSTRACT

Continual Learning is a learning paradigm where machine learning models are trained with sequential or streaming tasks. Two notable directions among the recent advances in continual learning with neural networks are (i) variational Bayes based regularization by learning priors from previous tasks, and, (ii) learning the structure of deep networks to adapt to new tasks. So far, these two approaches have been orthogonal. We present a principled non-parametric Bayesian approach for learning the structure of feed-forward neural networks, addressing the shortcomings of both these approaches. In our model, the number of nodes in each hidden layer can automatically grow with the introduction of each new task, and inter-task transfer occurs through the overlapping of different sparse subsets of weights learned by different tasks. On benchmark datasets, our model performs comparably or better than the state-of-the-art approaches, while also being able to adaptively infer the evolving network structure in the continual learning setting.

연구 동기 및 목표

• 기존 지속적 학습 방법의 한계를 해결하기 위해 네트워크 아키텍처를 고정하거나, 작업 복잡도에 적응하지 않는 모수적 사전 확률를 사용하는 것.
• 새로운 작업이 도입될 때 은닉층 뉴런의 자동 증가를 가능하게 하여 수동적인 아키텍처 설계를 방지하기 위해.
• 각 작업 간에 중첩된 희소 가중치 부분집합을 학습함으로써 효과적인 작업 간 지식 전이를 촉진하기 위해.
• 지속적 학습 환경에서 모델 구조와 매개변수를 동시에 학습하는 원칙적인 베이지안 프레임워크를 개발하기 위해.

제안 방법

• 각 레이어의 활성 뉴런 수가 새로운 작업에 따라 적응적으로 증가할 수 있도록, 네트워크 가중치에 비모수적 베이지안 사전을 적용한다.
• 각 작업이 고유한 희소 가중치 부분집합을 학습하는 희소 베이지안 학습 프레임워크를 사용하며, 중첩된 가중치가 전이를 가능하게 한다.
• 변분 추론을 활용하여 네트워크 가중치와 구조에 대한 사후분포를 근사함으로써 확장 가능한 훈련을 가능하게 한다.
• 희소성과 작업 간 공유 표현을 촉진하기 위해 계층적 사전 구조를 도입한다.
• 작업 복잡도와 데이터 분포에 기반하여 각 레이어의 활성 뉴런 수를 동적으로 추론한다.
• 새로운 작업이 도착함에 따라 사후분포를 점진적으로 갱신함으로써 치명적 기억 상실 없이 지속적 학습을 보장한다.

실험 결과

연구 질문

• RQ1 비모수적 베이지안 모델은 지속적 학습에서 변화하는 작업 요구사항에 따라 네트워크 아키텍처를 자동으로 적응시킬 수 있는가?
• RQ2 중첩된 희소 가중치 부분집합은 명시적 아키텍처 제약 없이 작업 간 지식 전이를 얼마나 효과적으로 가능하게 하는가?
• RQ3 제안된 방법은 정확도와 구조적 적응 능력 측면에서 기존 모수적 및 비모수적 접근법을 초월하는가?
• RQ4 시간이 지남에 따라 복잡도가 증가하는 동안 모델은 치명적 기억 상실을 어느 정도 방지하는가?

주요 결과

• 모델은 표준 기준 데이터셋에서 최신 기술 지속적 학습 방법과 비교해 유사하거나 뛰어난 성능을 달성한다.
• 네트워크 구조는 새로운 작업이 도입될 때 동적으로 확장되며, 각 레이어의 활성 뉴런 수가 필요에 따라 자연스럽게 증가한다.
• 중첩된 희소 가중치 부분집합을 통해 작업 간 전이가 효과적으로 가능해져, 다양한 작업 간 일반화 성능이 향상된다.
• 가중치와 구조에 대한 사후분포를 유지하고 갱신함으로써 치명적 기억 상실을 성공적으로 방지한다.
• 아키텍처 재설계가 필요 없이 순차적 학습 시나리오에서 확장성과 강건성을 입증한다.