[論文レビュー] Continual Competitive Memory: A Neural System for Online Task-Free Lifelong Learning

Alexander G. Ororbia|arXiv (Cornell University)|Jun 24, 2021

Domain Adaptation and Few-Shot Learning被引用数 4

ひとこと要約

本稿では、継続的でタスクフリーな生涯学習を実現する新しい非教師ありニューラルシステム、継続的競合記憶（CCM）を提案する。CCMは、競合的ヘブ学習を用いて崩壊的忘却を緩和する。CCMは従来の競合的学習モデルを上回り、Split MNISTおよびSplit NotMNISTで最先端の生涯学習手法と同等の性能を達成するが、タスク記述子やデータリプレイを必要としない。

ABSTRACT

In this article, we propose a novel form of unsupervised learning, continual competitive memory (CCM), as well as a computational framework to unify related neural models that operate under the principles of competition. The resulting neural system is shown to offer an effective approach for combating catastrophic forgetting in online continual classification problems. We demonstrate that the proposed CCM system not only outperforms other competitive learning neural models but also yields performance that is competitive with several modern, state-of-the-art lifelong learning approaches on benchmarks such as Split MNIST and Split NotMNIST. CCM yields a promising path forward for acquiring representations that are robust to interference from data streams, especially when the task is unknown to the model and must be inferred without external guidance.

研究の動機と目的

• タスク記述子や外部の監督に依存せずに、オンライン継続的学習における崩壊的忘却を解消すること。
• ストリーミングデータ向けに、競合的ニューラルモデルを統一する一般化されたニューラル競合学習（NCL）フレームワークを構築すること。
• スケーラブルで生物学的に妥当なシステムを構築し、タスク間で知識を保持しながらデータストリームから学習すること。
• タスクフリーな継続的学習設定において、CCMの頑健性と性能を既存のベースラインと比較すること。
• CCMを下流の予測器と統合し、継続的学習における一般化性能を向上させること。

提案手法

• NCLフレームワークは、競合的活性化、重み更新、記憶ユニットのダイナミクスといった主要な要素を形式化することで、競合的学習モデルを統一する。
• CCMは、最も反応するニューロン（勝者）が入力に基づきヘブ学習に類似したルールで重みを更新する競合メカニズムを用い、記憶の強化を促進する。
• 動的しきい値機構により、新しい入力が新しい記憶ユニットの作成を引き起こすか、既存のものに格納されるかが決定される。
• システムはオンラインでストリーミング形式で動作し、生の入力を保存せず、リプレイバッファにも依存しない。
• フレームワークは記憶ユニットの増分的増加をサポートし、安定性を確保するため、適応的共鳴理論（ART）にインspiredされたメカニズムを統合している。
• CCMはフィードフォワード予測器と統合され、Split MNIST や Split NotMNIST などの分類ベンチマークで性能を評価している。

実験結果

リサーチクエスチョン

• RQ1 競合的学習に基づくシステムは、タスク記述子や外部の監督なしに、頑健な生涯学習を達成できるか？
• RQ2 継続的学習下で、知識の保持と一般化の観点から、CCMは古典的競合的学習モデルと比べてどのように異なるか？
• RQ3 ストリーミングデータ環境下で、競合的学習は、崩壊的忘却に対してどれほど内在的な耐性を示すか？
• RQ4 CCMは、最新のバックプロパゲーションベースの生涯学習手法と同等か、それを上回る性能を標準ベンチマークで達成できるか？
• RQ5 NCLフレームワークは、多様な競合的学習モデルを継続的学習に一般化し統一できるか？

主な発見

• CCMは、ART-C 2A や SOINN といった古典的競合的学習モデルよりも、Split MNIST および Split NotMNIST における精度と知識保持の観点で優れている。
• CCMは、正則化や経験リプレイを用いる最先端の生涯学習手法と同等の性能を達成しているが、非教師ありかつタスクフリーであるにもかかわらずである。
• システムは、タスク境界信号なしに、順次提示されるタスク間で高い精度を維持するという、崩壊的忘却に対する頑健な抵抗性を示している。
• NCLフレームワークは、ART、SOM、ニューラルガスを含む多様な競合的モデルを、共通の計算的抽象化の下に成功裏に統一している。
• CCMはフィードフォワード予測器と効果的に統合され、継続的分類タスクにおける強力な一般化性能を示している。
• モデルは明示的なユニット数上限なしに安定した記憶成長を示しているが、動的しきい値とユニットの統合は未解決の課題のままである。