[논문 리뷰] Continual Learning Using Bayesian Neural Networks

Honglin Li, Payam Barnaghi외 2명|arXiv (Cornell University)|2019. 10. 09.

Domain Adaptation and Few-Shot Learning참고 문헌 37인용 수 5

한 줄 요약

이 논문은 연속 학습에서 치명적인 잊음 현상을 완화하기 위해 혼합 가우시안 사후 분포를 사용하는 베이지안 신경망 접근법인 지속적 베이지안 학습 네트워크(CBLN)를 제안한다. 추론 중 에피스테믹 불확실성에 기반해 작업별로 가중치 솔루션을 동적으로 선택함으로써 과거 데이터에 재접근할 필요 없이 상태의 최고 성능을 달성하며, MNIST 및 UCR 시계열 벤치마크에서 IMM보다 25–47% 높고 SI보다 80% 높은 성능을 기록한다.

ABSTRACT

Continual learning models allow to learn and adapt to new changes and tasks over time. However, in continual and sequential learning scenarios in which the models are trained using different data with various distributions, neural networks tend to forget the previously learned knowledge. This phenomenon is often referred to as catastrophic forgetting. The catastrophic forgetting is an inevitable problem in continual learning models for dynamic environments. To address this issue, we propose a method, called Continual Bayesian Learning Networks (CBLN), which enables the networks to allocate additional resources to adapt to new tasks without forgetting the previously learned tasks. Using a Bayesian Neural Network, CBLN maintains a mixture of Gaussian posterior distributions that are associated with different tasks. The proposed method tries to optimise the number of resources that are needed to learn each task and avoids an exponential increase in the number of resources that are involved in learning multiple tasks. The proposed method does not need to access the past training data and can choose suitable weights to classify the data points during the test time automatically based on an uncertainty criterion. We have evaluated our method on the MNIST and UCR time-series datasets. The evaluation results show that our method can address the catastrophic forgetting problem at a promising rate compared to the state-of-the-art models.

연구 동기 및 목표

• 새로운 데이터에 대해 훈련할 때 이전에 학습한 작업을 잊는 치명적인 잊음 현상을 해결하기 위해.
• 과거 훈련 데이터에 접근할 필요 없이 이전 작업의 지식을 유지하는 방법을 개발하기 위해.
• 확장 가능한 파rameter 할당 전략을 사용해 다수의 작업을 효율적으로 점진적으로 학습하기 위해.
• 시험 시점에서 불확실성 인식 가중치 선택을 통해 모델의 일반화 능력과 안정성을 향상시키기 위해.
• 비용이 많이 드는 피셔 정보 또는 기울기 기반 중요도 측정 방법을 피하여 계산 오버헤드를 줄이기 위해.

제안 방법

• 모델은 각 작업에 해당하는 가우시안 분포 혼합으로 모델링된 가중치를 갖는 베이지안 신경망을 사용한다.
• 모델은 서로 다른 작업에 대해 별도의 가우시안 성분을 유지하고, 연속 학습 중에 이를 하나의 혼합 분포로 통합한다.
• 추론 시점에 모델은 입력에 따라 적절한 가중치 성분을 에피스테믹 불확실성 기반으로 선택하며, 분산, 엔트로피 또는 MUMMI를 불확실성 측정 지표로 사용한다.
• 모델은 혼합 성분의 수를 조정함으로써 자원을 동적으로 할당하여 지수적 파라미터 증가를 방지한다.
• 변분 추론을 사용해 가중치의 사후 분포를 근사함으로써 과거 데이터 재학습 없이도 불확실성 추정이 가능하다.
• 통합 과정은 불확실성 측정 지표에 의해 이끌리며, 입력 분포에 따라 적응적으로 솔루션을 선택할 수 있도록 한다.

실험 결과

연구 질문

• RQ1 과거 데이터에 접근할 수 없음에도 불구하고, 혼합 가우시안 가중치를 갖는 베이지안 신경망이 연속 학습에서 치명적인 잊음 현상을 효과적으로 방지할 수 있는가?
• RQ2 가중치 성분의 불확실성 기반 선택이 순차적으로 학습된 작업 간의 일반화 능력을 어떻게 향상시키는가?
• RQ3 작업 수 증가가 모델이 정확한 솔루션을 구분하고 선택하는 능력에 어떤 영향을 미치는가?
• RQ4 IMM 및 SI와 같은 최첨단 방법과 비교할 때 CBLN의 정확도 및 확장성 측면에서 어떤가?
• RQ5 작업의 클래스 수가 적은 저자원 환경에서도 CBLN은 성능을 유지할 수 있는가?

주요 결과

• 분할된 MNIST 벤치마크에서 CBLN은 Incremental Moment Matching(IMM)보다 25% 높고, Synaptic Intelligence(SI)보다 80% 높은 성능을 기록한다.
• 퍼미uted MNIST 실험에서 CBLN는 SI와 동일한 정확도를 달성하며, IMM보다 16% 높은 성능을 기록한다.
• UCR 시계열 데이터셋에서 CBLN는 IMM보다 40% 높고, SI보다 47% 높은 성능을 기록한다.
• 작업 수가 적을 경우 분산 및 MUMMI 기반 불확실성 측정 지표에서 선택 정확도가 높게 유지되며(최대 1.0), 하지만 높은 수의 작업과 낮은 수의 클래스에서 희귀 클래스에 대한 과도한 확신으로 성능 저하가 발생한다.
• 불확실성 기반 작업 선택에서 모델은 안정성을 보이며, 분산 및 MUMMI가 엔트로피보다 증가하는 작업 복잡도 하에서 작업을 더 잘 구분한다.
• CBLN는 계산 비용이 많이 드는 피셔 정보나 기울기 기반 중요도 추정을 필요로 하지 않아 훈련 오버헤드가 감소한다.