[論文レビュー] Lifelong Neural Predictive Coding: Sparsity Yields Less Forgetting when Learning Cumulatively.

Alexander G. Ororbia, Ankur Mali+2 more|arXiv (Cornell University)|May 25, 2019

Explainable Artificial Intelligence (XAI)被引用数 7

ひとこと要約

本論文は、予測コーディング理論に基づく神経認知的にインspiredなモデル、順序的ニューラルコーディングネットワークを提案する。このモデルは、スパースで競争的な活性化と反復処理を用いて、継続的学習における深刻な忘却を顕著に低減する。順次的タスクストリームにおいて、標準的なニューラルネットワークおよび先行する継続的学習手法を上回り、古い知識を保持しながら新しいタスクを学習する。

ABSTRACT

In lifelong learning systems, especially those based on artificial neural networks, one of the biggest obstacles is the severe inability to retain old knowledge as new information is encountered. This phenomenon is known as catastrophic forgetting. In this paper, we present a new connectionist model, the Sequential Neural Coding Network, and its learning procedure, grounded in the neurocognitive theory of predictive coding. The architecture experiences significantly less forgetting as compared to standard neural models and outperforms a variety of previously proposed remedies and methods when trained across multiple task datasets in a stream-like fashion. The promising performance demonstrated in our experiments offers motivation that directly incorporating mechanisms prominent in real neuronal systems, such as competition, sparse activation patterns, and iterative input processing, can create viable pathways for tackling the challenge of lifelong machine learning.

研究の動機と目的

• 生物学的に妥当なメカニズムを用いて、継続的機械学習における深刻な忘却を解消すること。
• 現実の神経系の知識劣化に対する耐性を模倣するコネクショニスティックモデルの開発。
• スパarsityと反復処理を統合することで、順次的タスクにおける継続的学習性能の向上。
• 予測コーディングの原則が、標準的な誤差逆伝搬法と比較して、より安定した継続的学習をもたらすかどうかの検証。
• スパースな活性化パターンが、蓄積的学習シナリオにおける忘却を低減することの実証。

提案手法

• モデルは、脳における予測コーディングを模倣することを目的とした順序的ニューラルコーディングネットワークとして構造化されている。
• 隠れユニット全体にわたるスパースな活性化パターンを強制するために、競争的ダイナミクスが用いられている。
• 学習手順は反復的誤差伝搬を用い、予測コーディングの階層的誤差最小化と整合している。
• ネットワークは複数のフィードバックループを通じて入力を処理し、予測を精錬し、予測誤差を最小化する。
• スパarsityは側方抑制によって強制され、関連するニューロンの選択的活性化を促進する。
• アーキテクチャは、タスク固有の再トレーニングなしに、順次的タスクデータセットに対してストリーム形式で訓練される。

実験結果

リサーチクエスチョン

• RQ1 予測コーディングに基づくニューラルネットワークは、継続的学習における深刻な忘却を低減できるか？
• RQ2 活性化パターンのスパarsityは、順次的タスク間での知識保持にどのように影響するか？
• RQ3 階層的アーキテクチャにおける反復的誤差補正は、継続的学習性能を向上させるか？
• RQ4 このモデルは、標準的な誤差逆伝搬法および先行する継続的学習手法と比較してどうなるか？
• RQ5 競争やフィードバック処理といった生物学的にインスパイアされたメカニズムは、継続的学習の安定性を向上させられるか？

主な発見

• 順序的ニューラルコーディングネットワークは、標準的なニューラルネットワークと比較して、深刻な忘却を顕著に低減した。
• モデルは、順次的タスクストリームにおいて、以前に提案された多様な継続的学習手法を上回った。
• スパースな活性化パターンが、初期のタスクからの知識保持において中心的な役割を果たした。
• 反復処理と競争的ダイナミクスが、安定的で長期的な学習に寄与した。
• モデルは、蓄積的かつストリーム形式で訓練された複数のデータセットにおいて、強固な性能を示した。
• 予測コーディングの原則の統合により、より生物学的に妥当で効果的な継続的学習が実現された。