[論文レビュー] On the role of neurogenesis in overcoming catastrophic forgetting

German I. Parisi, Xu Ji+1 more|arXiv (Cornell University)|Nov 6, 2018

Neurogenesis and neuroplasticity mechanisms参考文献 12被引用数 10

ひとこと要約

本論文は、自己組織的再帰的ネットワークにおける神経新生—動的ニューロン追加—が、段階的で自己教師あり学習において災害的忘却を顕著に軽減することを示している。必要なときにのみニューロンを増やすことで、同じ記憶容量を持つ静的ネットワークを上回り、10個の物体カテゴリを学習した後、CORe50で83.24%の精度を達成した。一方、静的ネットワークは32.41%であった。

ABSTRACT

Lifelong learning capabilities are crucial for artificial autonomous agents operating on real-world data, which is typically non-stationary and temporally correlated. In this work, we demonstrate that dynamically grown networks outperform static networks in incremental learning scenarios, even when bounded by the same amount of memory in both cases. Learning is unsupervised in our models, a condition that additionally makes training more challenging whilst increasing the realism of the study, since humans are able to learn without dense manual annotation. Our results on artificial neural networks reinforce that structural plasticity constitutes effective prevention against catastrophic forgetting in non-stationary environments, as well as empirically supporting the importance of neurogenesis in the mammalian brain.

研究の動機と目的

• 神経新生が継続的学習における災害的忘却を軽減するために機能的に寄与するかどうかを調査すること。
• 構造的可塑性の影響を隔離するために、同じ記憶制約下で動的で成長するネットワークと静的ネットワークを比較すること。
• 手動アノテーションに依存せず、現実世界の非定常データにおける自己教師ありで段階的な学習のパフォーマンスを評価すること。
• 神経新生が、古い表現を保存しながら新しい知識の迅速な保持を可能にする役割を評価すること。
• 動的アーキテクチャの成長が、容量の増加を超えて安定性と可塑性のトレードオフにおいて利点をもたらすかどうかを調査すること。

提案手法

• 入力活性がしきい値未満に下がった際にニューロンを動的に追加する、成長する自己組織的再帰的ネットワーク（GWR）を採用した。
• 共激活されたニューロン間のシナプス接続を形成するために競合的ヘブ理論学習を用い、時間的文脈は文脈記述子によってモデル化した。
• 自己組織的ネットワークの入力として、動画フレームを256次元のベクトルに圧縮するためにVGGベースの特徴抽出器を適用した。
• CORe50データセットを用いて実験を行い、10セッションで構成され、8セッションを訓練、3セッションをテストに使用した。各カテゴリごとにミニバッチとして5インスタンスを用いた。
• 同じ記憶制約下で、固定サイズの静的ネットワークと最大2500ニューロンまで成長可能な動的ネットワークを比較した。
• 記憶リプレイを用いて定常的データ分布をシミュレートし、静的および動的モデルへの影響をテストした。

実験結果

リサーチクエスチョン

• RQ1 同じ記憶容量を持つ静的ネットワークと比較して、動的ネットワークにおける神経新生は災害的忘却を軽減するか？
• RQ2 外部の監督やデータリプレイに依存せずに、動的ニューロン追加が自己教師ありで段階的な学習のパフォーマンスを向上させられるか？
• RQ3 ニューロンの成長が可能であることで、安定性と可塑性のジレンマにかかわらず、新しいクラスの迅速な保持が可能になるか？
• RQ4 記憶リプレイは、段階的学習下で静的アーキテクチャと成長するアーキテクチャの両方のパフォーマンスにどのように影響するか？
• RQ5 神経新生による構造的可塑性が、表現の安定性と記憶効率にどの程度寄与するか？

主な発見

• 10個の物体カテゴリを学習した後、成長ネットワークはCORe50で平均83.24%の精度を達成したが、同じ記憶制約下の静的ネットワークは32.41%にとどまった。
• 約50%の性能差は、神経新生が記憶容量の増加をはるかに超えて、災害的忘却を防止する機能的寄与を果たしていることを示している。
• 動的モデルは競争的なパフォーマンスに到達するまでにたった16エポックでよかったが、静的モデルは33エポックを要した。これは、必要に応じたニューロン挿入によって収束が速くなったことを示している。
• 記憶リプレイは静的ネットワークのパフォーマンスを顕著に向上させなかった。これは、内部表現の再構築が不十分であったためであり、構造的可塑性の重要性を強調している。
• 成長ネットワークは、静的モデルよりも新しいクラスをより迅速に保持した。これは、安定性と可塑性のジレンマに反して、過去の知識を不安定にせず高速な可塑性を達成できたことを示している。
• 結果は、哺乳類の脳における神経新生の生物学的役割が、非定常環境における効率的で生涯にわたる学習のメカニズムであることを実証的に支持している。