[論文レビュー] Nonparametric Bayesian Structure Adaptation for Continual Learning.

Abhishek Kumar, Sunabha Chatterjee+1 more|arXiv (Cornell University)|Dec 8, 2019

Domain Adaptation and Few-Shot Learning被引用数 4

ひとこと要約

本論文は、継続的学習中にタスク固有のスパース重み部分集合を学習することで、ニューラルネットワークアーキテクチャを動的に拡張する非パrametricベイジアン手法を提案する。重みの重複を通じてタスク間の転送を可能にし、事前のアーキテクチャ制約なしにネットワーク構造を自動で適応させながら、ベンチマークデータセットで最先端の性能を達成する。

ABSTRACT

Continual Learning is a learning paradigm where machine learning models are trained with sequential or streaming tasks. Two notable directions among the recent advances in continual learning with neural networks are (i) variational Bayes based regularization by learning priors from previous tasks, and, (ii) learning the structure of deep networks to adapt to new tasks. So far, these two approaches have been orthogonal. We present a principled non-parametric Bayesian approach for learning the structure of feed-forward neural networks, addressing the shortcomings of both these approaches. In our model, the number of nodes in each hidden layer can automatically grow with the introduction of each new task, and inter-task transfer occurs through the overlapping of different sparse subsets of weights learned by different tasks. On benchmark datasets, our model performs comparably or better than the state-of-the-art approaches, while also being able to adaptively infer the evolving network structure in the continual learning setting.

研究の動機と目的

• ネットワークアーキテクチャを固定するか、タスクの複雑さに適応しないパラメトリック事前分布を用いる既存の継続的学習手法の限界を克服すること。
• 新しいタスクが導入される度に、隠れ層のノード数を自動で増やすことにより、手動でのアーキテクチャ設計を回避すること。
• タスク間で重複するスパース重み部分集合を学習することで、知識転送を効果的に実現すること。
• 継続的学習の文脈で、モデル構造とパラメータを同時に学ぶ整合的なベイジアンフレームワークを開発すること。

提案手法

• 各層の活性化ニューロン数が新しいタスクに応じて適応的に増加できるように、ネットワーク重みに非パラメトリックベイジアン事前分布を適用する。
• 各タスクが固有のスパース重み部分集合を学習するスパースベイジアン学習フレームワークを用い、重複する重みが転送を可能にする。
• 変分推論を活用して、ネットワーク重みと構造の事後分布を近似し、スケーラブルな学習を実現する。
• スパース性を促進し、タスク間で共有される表現を促進する階層的事前分布構造を導入する。
• タスクの複雑さとデータ分布に応じて、各層の活性化ニューロン数を動的に推論する。
• 新しいタスクが到着する度に事後分布を段階的に更新することで、継続的学習を実現し、深刻な忘却を回避する。

実験結果

リサーチクエスチョン

• RQ1 非パラメトリックベイジアンモデルは、継続的学習における変化するタスク要件に応じて、自動的にネットワークアーキテクチャを適応可能にすることができるか？
• RQ2 重複するスパース重み部分集合は、明示的なアーキテクチャ制約なしに、タスク間の知識転送をどの程度効果的に可能にするか？
• RQ3 提案手法は、精度と構造的適応性の観点で、従来のパラメトリックおよび非パラメトリック手法を上回るか？
• RQ4 モデルは、時間の経過とともに複雑化する中で、深刻な忘却をどの程度効果的に防止できるか？

主な発見

• 標準ベンチマークデータセットにおいて、提案手法は最先端の継続的学習手法と同等またはそれ以上の性能を達成する。
• ネットワーク構造は新しいタスクに応じて動的に拡張され、各層の活性化ニューロン数は必要に応じて自然に増加する。
• 重複するスパース重み部分集合を通じて、タスク間の転送が効果的に実現され、タスク間の一般化性能が向上する。
• 重みと構造の事後分布を維持・更新することで、深刻な忘却を効果的に防止する。
• アーキテクチャの再設計を必要とせず、順次学習のシナリオにおいてスケーラビリティとロバスト性を示す。