[論文レビュー] Bayesian Gradient Descent: Online Variational Bayes Learning with Increased Robustness to Catastrophic Forgetting and Weight Pruning.

Chen Zeno, Itay Golan+2 more|arXiv (Cornell University)|Mar 27, 2018

Domain Adaptation and Few-Shot Learning参考文献 10被引用数 7

ひとこと要約

本稿では、タスク境界の知識や再訓練を必要とせず、ニューラルネットワークの重みに関する事後分布を推定するオンライン変分ベイズ勾配降下法を提案する。この手法は、崩壊的忘却や重みのプルーニングに対する耐性を高め、不確実性に配慮したパrameter更新により、モデルの安定性とスパarsity耐性を向上させる。

ABSTRACT

We suggest a novel approach for the estimation of the posterior distribution of the weights of a neural network, using an online version of the variational Bayes method. Having a confidence measure of the weights allows to combat several shortcomings of neural networks, such as their parameter redundancy, and their notorious vulnerability to the change of input distribution (catastrophic forgetting). Specifically, We show that this approach helps alleviate the catastrophic forgetting phenomenon - even without the knowledge of when the tasks are been switched. Furthermore, it improves the robustness of the network to weight pruning - even without re-training.

研究の動機と目的

• 継続的学習における崩壊的忘却を、タスク境界の情報がなくても解消すること。
• 不確実性に配慮した重み推定を通じて、ニューラルネットワークのパrameterの冗長性を低減すること。
• 再訓練を必要とせず、重みプルーニングに対して耐性を持つモデルを改善すること。
• 新しいデータに動的に適応可能なオンライン変分ベイズ手法を開発すること。
• モデルの解釈性と安定性を向上させるために、ネットワーク重みに対する信頼度を提供すること。

提案手法

• リアルタイムでニューラルネットワーク重みの事後分布を近似するために、オンライン変分ベイズを用いる。
• ミニバッチデータを用いて、変分事後分布のパrameterを勾配降下法で更新する。
• 過学習の低減と一般化性能の向上を図るため、不確実性推定値を重み更新に組み込む。
• 分布シフトに対しても耐性を持つため、重みの確率的表現を維持する。
• 変分目的関数の微分可能最適化を可能にするために、再パrameter化トリックを採用する。
• 過去のデータを保存する必要もなく、タスク識別子を必要とせず、インクリメンタル学習を実現する。

実験結果

リサーチクエスチョン

• RQ1 オンライン変分ベイズ学習は、タスク境界検出を必要とせず、崩壊的忘却を低減できるか？
• RQ2 不確実性に配慮した重み推定は、重みプルーニングに対する耐性をどのように向上させるか？
• RQ3 再訓練を伴わずに、分布シフトに対してどの程度の性能を維持できるか？
• RQ4 ベイジアン勾配降下法による事後分布近似は、モデルのスパarsityとパrameter効率を向上させるか？
• RQ5 最小限のアーキテクチャ変更で、順次タスクに対して安定した性能を達成できるか？

主な発見

• 本手法は、タスク境界の有無に関わらず、順次学習タスクにおける崩壊的忘却を顕著に低減した。
• 新しいタスクを学習した後も、過去のタスクで高い精度を維持しており、安定性の向上が示された。
• 重みプルーニングに対しても耐性を示し、スパースな重み構成でも性能を維持した。
• 不確実性に配慮した学習により、効果的なパrameter共有が可能となり、冗長性が低減された。
• プルーニング後に再訓練やファインチューニングを行わなくても、タスク間で性能が維持された。
• オンライン更新のみを用いても、ベンチマーク継続的学習タスクで競争力のある精度を達成した。