[論文レビュー] Bayesian Structure Adaptation for Continual Learning

Abhishek Kumar, Sunabha Chatterjee+1 more|arXiv (Cornell University)|Dec 8, 2019

Domain Adaptation and Few-Shot Learning参考文献 43被引用数 4

ひとこと要約

本稿では、インド・バッファートプロセス（IBP）を用いてニューラルネットワークの構造を動的に適応させることで、タスク固有のスパース重みサブセットを実現するとともに、タスク間で構造を共有するベイジアンノンパラメトリック継続的学習フレームワークを提案する。構造学習を変分ベイズ推論と統合することで、災難的忘却を軽減し、教師ありおよび教師なしの継続的学習ベンチマークにおいて最先端の性能を達成する。

ABSTRACT

Continual Learning is a learning paradigm where learning systems are trained with sequential or streaming tasks. Two notable directions among the recent advances in continual learning with neural networks are ($i$) variational Bayes based regularization by learning priors from previous tasks, and, ($ii$) learning the structure of deep networks to adapt to new tasks. So far, these two approaches have been orthogonal. We present a novel Bayesian approach to continual learning based on learning the structure of deep neural networks, addressing the shortcomings of both these approaches. The proposed model learns the deep structure for each task by learning which weights to be used, and supports inter-task transfer through the overlapping of different sparse subsets of weights learned by different tasks. Experimental results on supervised and unsupervised benchmarks shows that our model performs comparably or better than recent advances in continual learning setting.

研究の動機と目的

• 継続的学習における災難的忘却を解消するため、ニューラルネットワークの構造を動的に適応可能にする。
• ベイジアンノンパラメトリック事前分布（IBP）と変分推論を統合し、段階的なモデル拡大とタスク固有の重みスパarsityを支援する。
• 重なり合うタスク固有のスパース重みサブセットを介してタスク間の転送を可能にするとともに、過去のタスクの性能を維持する。
• 教師あり学習を超えて、生成的モデリング（例：VAE）を含むベイジアン継続的学習の適用範囲を拡張する。
• タスクに応じて調整されるマスク付きニューラルネットワークを用いて、タスク間で共有される潜在空間における有効な表現学習を実現する。

提案手法

• 各隠れ層の接続性をインド・バッファートプロセス（IBP）事前分布でモデル化し、無限に近い潜在的特徴量を許容するとともに、新規タスクの追加に応じて動的に構造を拡大可能にする。
• 構造的平均場変分後立分布を用いて、重み、マスク、潜在変数の結合後立分布を近似し、エンドツーエンドの学習を可能にする。
• 各層で活性な接続をスパースに選択するためにバイナリーマスク行列 $\bm{B}^l$ を適用し、$\bm{W}^l = \bm{B}^l \odot \bm{V}^l$ と定義する。ここで $\bm{V}^l$ は重み値を表す。
• 潜在変数およびモデルパラメータの後立分布をパrameter化するためのアンモアタイズド推論をニューラルネットワークを用いて実装し、スケーラブルな推論を実現する。
• 判別的（ベイジアンニューラルネットワーク）および生成的（VAEs）モデルの両方に対して、下界の証拠（ELBO）を定式化し、確率的勾配降下法で最適化する。
• 教師ありおよび教師なしの継続的学習を同一フレームワークで実現する。ベイジアンニューラルネットワークおよび変分オートエンコーダーにタスク固有のマスクを適用する。

実験結果

リサーチクエスチョン

• RQ1 ベイジアンノンパラメトリックアプローチは、新規タスクの追加に応じてニューラルネットワークの構造を動的に拡大しつつ、過去のタスクの性能を維持できるか？
• RQ2 IBPに基づくスパース重み選択は、タスク間転送の促進と災難的忘却の低減にどの程度有効か？
• RQ3 提案手法は、同一のアーキテクチャおよび推論メカニズムを用いて、教師ありおよび教師なしの継続的学習設定に一般化可能か？
• RQ4 タスク固有の表現をどの程度維持しつつ、タスク間で共有される潜在空間の学習を実現できるか？
• RQ5 ベンチマークデータセット上での忘却軽減および表現品質の観点から、SOTA手法と比較して本手法はどの程度優れているか？

主な発見

• 不審なMNISTデータセットにおいて、本モデルは教師なし継続的学習で3-KNN誤差0.37%を達成し、EwCやVCLを著しく上回る性能を示した。
• MNISTでは、本モデルはタスクを経てもテスト尤度が最小限に低下する傾向を示しており、災難的忘却に対する強い耐性を示している。
• t-SNE可視化では、MNISTのほうがnotMNISTよりも潜在空間におけるクラス分離が明確であることが示され、均一なデータに対して優れた表現学習が行われていることを裏付けた。
• 全タスク終了後の最終的な事前分布から生成されたサンプルは高品質な画像を示しており、効果的な潜在空間モデリングを確認した。
• 潜在コードに対するKNN分類による表現学習の評価では、本手法はベースラインと比べて誤差が1桁低い優れた性能を示した。
• MNISTおよびnotMNISTからの再構成画像は、モデルの制約にもかかわらず高い品質を維持しており、効果的な生成能力と安定した学習を示している。