[論文レビュー] Attention-Based Structural-Plasticity

Soheil Kolouri, Nicholas Ketz+3 more|arXiv (Cornell University)|Mar 2, 2019

Domain Adaptation and Few-Shot Learning参考文献 14被引用数 4

ひとこと要約

この論文は、脳のアセチルコリン系にインspiredされた注意に基づく選択的可塑性メカニズムを提案し、継続的学習における深刻な忘却を軽減することを目的としている。バックプロパゲーションとは並行してヘブニアン則に基づくシナプス重要度の学習を実行することで、重要な重みを動的に保護し、EWC や Synaptic Intelligence と同等の性能を達成している。Permuted MNIST および Split MNIST で、顕著なハイパーパramータチューニングなしに優れた結果を示している。

ABSTRACT

Catastrophic forgetting/interference is a critical problem for lifelong learning machines, which impedes the agents from maintaining their previously learned knowledge while learning new tasks. Neural networks, in particular, suffer plenty from the catastrophic forgetting phenomenon. Recently there has been several efforts towards overcoming catastrophic forgetting in neural networks. Here, we propose a biologically inspired method toward overcoming catastrophic forgetting. Specifically, we define an attention-based selective plasticity of synapses based on the cholinergic neuromodulatory system in the brain. We define synaptic importance parameters in addition to synaptic weights and then use Hebbian learning in parallel with backpropagation algorithm to learn synaptic importances in an online and seamless manner. We test our proposed method on benchmark tasks including the Permuted MNIST and the Split MNIST problems and show competitive performance compared to the state-of-the-art methods.

研究の動機と目的

• 継続的学習における深刻な忘却を解消すること。これは、ニューラルネットワークが新しいタスクにさらされた際に、以前に学習した知識を上書きしてしまう現象である。
• 継続的学習中に重要なシナプスを的確に保護する生物学的に妥当なメカニズムを開発すること。
• 上位からの注意信号とシナプス可塑性を、ヘブニアン学習を用いて統合し、オンラインかつ動的な重み保護を実現すること。
• ベンチマークタスクにおける最先端の継続的学習手法と比較して、競争力のある性能を示すこと。

提案手法

• 従来の重みとは別に、シナプス重要度パラメータを導入し、前後接続の重要度信号に基づくヘブニアン則によって更新する。
• 予測クラスラベルを用いてトップダウンの注意マップを生成するため、対照的興奮型バックプロパゲーション（c-EB）メカニズムを採用する。
• c-EB によって得られるトップダウン信号を用いて、シナプス重要度を調整し、タスク関連の特徴を強調するとともに、不要な干渉を抑制する。
• 標準的なバックプロパゲーションとは並行してシナプス重要度を更新することで、追加の学習フェーズを必要とせず、オンラインかつスムーズな重要度学習を実現する。
• Ojaの学習則を用いて、前後接続の重要度に基づきシナプス重要度を更新し、安定性と生物学的妥当性を確保する。
• アセチルコリン系神経調節系を生物学的インスピレーションとして、注意駆動型可塑性の調整に用いる。

実験結果

リサーチクエスチョン

• RQ1 生物学的にインスパイアされた注意メカニズムは、重要なシナプスを的確に保護することで、継続的学習の性能を向上させることができるか？
• RQ2 注意に基づくシナプス重要度学習は、従来の正則化に基づく継続的学習手法と比較して、どのように異なるか？
• RQ3 ヘブニアン学習によるシナプス重要度の学習を、オンラインかつエンドツーエンドの方法でバックプロパゲーションと効果的に統合できるか？
• RQ4 提案手法は、顕著なハイパーパramータチューニングなしに、新しいタスクを学習しながらも、以前に学習したタスクの高い性能を維持できるか？

主な発見

• 提案手法は、Permuted MNIST ベンチマークにおいて、EWC や Synaptic Intelligence と同等の性能を達成している。
• Split MNIST タスクでは、5つの順次的な数字ペアタスクにおいても高い精度を維持しており、アンサンブルネットワークを上回り、Synaptic Intelligence と同等の性能を示している。
• 分布シフトや非定常データに対して高いロバスト性を示し、順次学習のシナリオにおいて深刻な忘却を効果的に軽減している。
• 最小限のハイパーパramータチューニングでさえも、競争力のある結果を達成しており、注意に基づく可塑性メカニズムの優れた一般化性能と安定性を示唆している。
• c-EB を用いて生成された注意マップは、タスク関連の特徴を的確に強調しており、学習中に重要な入力を的確に注目できる能力をモデルが有していることを示している。