[論文レビュー] Continual Learning with Deep Artificial Neurons

Blake Camp, Jaya Krishna Mandivarapu+1 more|arXiv (Cornell University)|Nov 13, 2020

Domain Adaptation and Few-Shot Learning参考文献 33被引用数 5

ひとこと要約

本稿では、各人工ニューロンが『ニューロン型態』と呼ばれる共有でメタ学習されたパラメーターベクトルを持つ深層ニューラルネットワークに置き換えられる、Deep Artificial Neurons (DANs) を提案する。標準的なネットワークにDANsを埋め込み、経験再生や別々の訓練フェーズを用いずに、メタ目的（継続的学習における最小限の忘却）をバックプロパゲーションで最適化することで、順次的なタスクにおいて安定した学習を達成し、生来のニューロン構造が人工ネットワークにおける生涯学習を可能にすることを示している。

ABSTRACT

Neurons in real brains are enormously complex computational units. Among other things, they're responsible for transforming inbound electro-chemical vectors into outbound action potentials, updating the strengths of intermediate synapses, regulating their own internal states, and modulating the behavior of other nearby neurons. One could argue that these cells are the only things exhibiting any semblance of real intelligence. It is odd, therefore, that the machine learning community has, for so long, relied upon the assumption that this complexity can be reduced to a simple sum and fire operation. We ask, might there be some benefit to substantially increasing the computational power of individual neurons in artificial systems? To answer this question, we introduce Deep Artificial Neurons (DANs), which are themselves realized as deep neural networks. Conceptually, we embed DANs inside each node of a traditional neural network, and we connect these neurons at multiple synaptic sites, thereby vectorizing the connections between pairs of cells. We demonstrate that it is possible to meta-learn a single parameter vector, which we dub a neuronal phenotype, shared by all DANs in the network, which facilitates a meta-objective during deployment. Here, we isolate continual learning as our meta-objective, and we show that a suitable neuronal phenotype can endow a single network with an innate ability to update its synapses with minimal forgetting, using standard backpropagation, without experience replay, nor separate wake/sleep phases. We demonstrate this ability on sequential non-linear regression tasks.

研究の動機と目的

• 個々の人工ニューロンの計算複雑性を高めることで、深層ネットワークに生来の生涯学習能力をもたらすかどうかを調査すること。
• 合成シナプス重み最適化に依存するのではなく、構造的で深層的なニューロナル関数を埋め込むことで、継続的学習における深刻な忘却を軽減すること。
• すべてのDANsに共通する1つのパラメーターベクトル（ニューロン型態）が、運用時におけるメタ目的（特に継続的学習）を促進できるかどうかを検討すること。
• ベクトル化されたシナプス接続とパラメータの共有が、継続的学習の効率性と安定性に与える影響を評価すること。
• ニューロン自体が高機能な計算ユニットである場合、バックプロパゲーションが記憶保持の更新に効果的に活用できるかどうかを実証すること。

提案手法

• 標準的な順方向ネットワーク内の各人工ニューロンが、すべてのニューロンに共有されるパラメータを持つ小さな深層ニューラルネットワークであるDeep Artificial Neuron (DAN) に置き換えられる。
• DAN間の接続はベクトル化されたシナプス接続によって行われ、各前駆動ニューロンが高次元のベクトルを各後続ニューロンに送信することで、入力次元が増加する。
• すべてのDANに共通する1つのパラメーターベクトル（「ニューロン型態」と呼ばれる）が、継続的学習を目的としたメタ目的（順次的タスク学習における記憶損失の最小化）を最適化するためにメタ学習される。
• メタトレーニングは、非線形回帰タスクのシーケンスを用いてバックプロパゲーションにより実施され、すべてのタスクにおける累積的記憶損失を最小化することを目的とする。
• 運用時、メタ学習された型態は固定され、経験再生や別々のフェーズを用いずに、標準的なバックプロパゲーションによりタスク固有の学習が行われる。
• 複数のネットワークアーキテクチャを通じて、メタ学習された型態対ランダム型態、パラメータ共有あり対なしの比較を通じて、手法の評価が行われる。

実験結果

リサーチクエスチョン

• RQ1 共通のニューロン型態を持つ、パラメータ化された深層ニューロン（DANs）を標準ネットワークに埋め込むことで、最小限の忘却を伴う継続的学習が可能になるか？
• RQ2 DAN間のシナプス接続をベクトル化することで、継続的学習のためのメタ最適化の効率が向上するか？
• RQ3 すべてのDANに共通する1つのメタ学習されたニューロン型態が、順次的タスク学習における記憶損失の最小化において、ランダムまたは非共有パラメータ設定を上回る性能を示せるか？
• RQ4 経験再生や別々のウェーク/スリープフェーズを用いずに、標準的なバックプロパゲーションにより安定した継続的学習を達成できるか？
• RQ5 個々のニューロンの計算複雑性が、メタ学習された型態を介して構造化された場合、人工ネットワークに生来の学習能力をもたらすのか？

主な発見

• 5つのサブタスクを学習した後、メタ学習された共有ニューロン型態を有するモデルは、すべてのタスクで平均二乗誤差が約0.03にまで低下し、効果的な継続的学習を達成した。
• 運用時、型態が固定されていようが更新されようが、ランダムまたは非共有型態を有するモデルと比較して、メタ学習された型態は総合的な記憶損失を顕著に低減した。
• 200～300メタエポックのうちに、適切なニューロン型態に収束したため、提示されたタスクセットにおける効率的なメタ最適化が可能であることが示された。
• 入力次元を増加させるチャネル数を増やすことで、シナプス接続をベクトル化することで、メタトレーニング中の記憶損失の最小化が加速され、最適化効率が向上した。
• 1つの共有型態（net0）を有するモデルは、レイヤー固有（net1）や完全に固有（net2）の型態を有するモデルとほぼ同等の性能を示し、パラメータ共有が性能を損なわないだけでなく、学習を簡素化できる可能性を示唆した。
• 結果は、メタ学習された型態による生来の構造的ニューロナル関数の埋め込みが、経験再生や特別な訓練フェーズを用いずに、最小限の忘却を伴う継続的学習を可能にすることを確認した。