[論文レビュー] Continual Learning Using Bayesian Neural Networks

Honglin Li, Payam Barnaghi+2 more|arXiv (Cornell University)|Oct 9, 2019

Domain Adaptation and Few-Shot Learning参考文献 37被引用数 5

ひとこと要約

本稿では、継続的学習における深刻な忘却を軽減するため、混合ガウス事後分布を用いたベイジアンニューラルネットワーク手法である継続的ベイジアン学習ネットワーク（CBLN）を提案する。推論時にエピステミック的不確実性を用いてタスク固有の重み解を動的に選択することで、過去のデータに再アクセスする必要がなく、MNISTおよびUCR時系列ベンチマークで最先端の性能を達成し、分割MNISTではIMMより25–47%、SIより80%優れている。

ABSTRACT

Continual learning models allow to learn and adapt to new changes and tasks over time. However, in continual and sequential learning scenarios in which the models are trained using different data with various distributions, neural networks tend to forget the previously learned knowledge. This phenomenon is often referred to as catastrophic forgetting. The catastrophic forgetting is an inevitable problem in continual learning models for dynamic environments. To address this issue, we propose a method, called Continual Bayesian Learning Networks (CBLN), which enables the networks to allocate additional resources to adapt to new tasks without forgetting the previously learned tasks. Using a Bayesian Neural Network, CBLN maintains a mixture of Gaussian posterior distributions that are associated with different tasks. The proposed method tries to optimise the number of resources that are needed to learn each task and avoids an exponential increase in the number of resources that are involved in learning multiple tasks. The proposed method does not need to access the past training data and can choose suitable weights to classify the data points during the test time automatically based on an uncertainty criterion. We have evaluated our method on the MNIST and UCR time-series datasets. The evaluation results show that our method can address the catastrophic forgetting problem at a promising rate compared to the state-of-the-art models.

研究の動機と目的

• 新しいデータの学習時に以前に学習したタスクを忘れてしまう継続的学習における深刻な忘却を解消すること。
• 過去の学習データへのアクセスを必要とせずに、以前のタスクからの知識を維持する手法を開発すること。
• スケーラブルなパラメータ割り当て戦略を用いて、複数のタスクを効率的に逐次学習できるようにすること。
• 推論時に不確実性に配慮した重み選択を活用することで、モデルの汎化性能と安定性を向上させること。
• 計算コストの高いフィッシャー情報量や勾配に基づく重要度測定を回避することで、トレーニングのオーバーヘッドを低減すること。

提案手法

• CBLNは、ネットワークの重みを、それぞれが学習済みタスクに対応するガウス分布の混合としてモデル化するベイジアンニューラルネットワークを採用する。
• モデルは異なるタスクごとに別個のガウス成分を維持し、継続的学習の過程でそれらを1つの混合分布に統合する。
• 推論時には、入力に応じてエピステミック的不確実性に基づき、最も適切な重み成分を選択する。不確実性指標として分散、エントロピー、MUMMIを用いる。
• モデルは、混合成分の数を調整することでリソースを動的に割り当て、指数的パラメータ増加を回避する。
• 変分推論を用いて重みの事後分布を近似し、過去データの再学習を必要とせずに不確実性推定を可能にする。
• 統合プロセスは不確実性指標によってガイドされ、入力分布に応じて適応的に解を選択できるようにする。

実験結果

リサーチクエスチョン

• RQ1 過去データへのアクセスなしに、混合ガウス重みを備えたベイジアンニューラルネットワークが、継続的学習における深刻な忘却を効果的に防げるか。
• RQ2 重み成分の不確実性に基づく選択が、逐次的に学習されたタスク間の汎化性能をどのように向上させるか。
• RQ3 タスク数の増加が、正しい解を識別・選択する能力に与える影響は何か。
• RQ4 IMM や SI といった最先端手法と比較して、CBLN の正確性とスケーラビリティはどの程度か。
• RQ5 少数クラスのタスクがあるような低データ環境でも、CBLN は性能を維持できるか。

主な発見

• 分割MNISTベンチマークでは、CBLNはIncremental Moment Matching (IMM) より25%、Synaptic Intelligence (SI) より80%優れた性能を示した。
• パーソーマルドMNIST実験では、CBLNはSIと同等の精度を達成し、IMMを16%上回った。
• UCR時系列データセットでは、CBLNはIMMより40%、SIより47%高い性能を示した。
• タスク数が少ない場合には、分散およびMUMMIに基づく不確実性指標で、選択精度が最大1.0まで維持されたが、高タスク・低クラス状況では希少クラスへの過信が原因で性能が低下した。
• 不確実性に基づくタスク選択において、分散およびMUMMIがエントロピーを上回り、タスクの複雑度が増す状況でもタスクを明確に区別できた。
• CBLNは、計算コストの高いフィッシャー情報量や勾配に基づく重要度推定を必要とせず、トレーニングのオーバーヘッドを低減した。