[論文レビュー] Biologically inspired sleep algorithm for artificial neural networks

Giri P. Krishnan, Timothy Tadros+2 more|arXiv (Cornell University)|Aug 1, 2019

Robotic Path Planning Algorithms被引用数 10

ひとこと要約

この論文は、人工ニューラルネットワーク（ANN）における段階的学習と一般化を向上させるために、生物にインspiredされたスリープアルゴリズムを提案している。ANNをスパイクニューラルネットワーク（SNN）に変換し、ノイズが多く活性度の高い入力を用いてスパイク時刻依存可塑性（STDP）を用いてオフラインのスリープに似た段階をシミュレートし、その後再びANNに戻す。この手法により、深刻な忘却の軽減、ノイズやぼやけた入力に対する耐性の向上、未学習の関連タスクへのフォワード転送学習が可能になる。

ABSTRACT

Sleep plays an important role in incremental learning and consolidation of memories in biological systems. Motivated by the processes that are known to be involved in sleep generation in biological networks, we developed an algorithm that implements a sleep-like phase in artificial neural networks (ANNs). After initial training phase, we convert the ANN to a spiking neural network (SNN) and simulate an offline sleep-like phase using spike-timing dependent plasticity rules to modify synaptic weights. The SNN is then converted back to the ANN and evaluated or trained on new inputs. We demonstrate several performance improvements after applying this processing to ANNs trained on MNIST, CUB200 and a motivating toy dataset. First, in an incremental learning framework, sleep is able to recover older tasks that were otherwise forgotten in the ANN without sleep phase due to catastrophic forgetting. Second, sleep results in forward transfer learning of unseen tasks. Finally, sleep improves generalization ability of the ANNs to classify images with various types of noise. We provide a theoretical basis for the beneficial role of the brain-inspired sleep-like phase for the ANNs and present an algorithmic way for future implementations of the various features of sleep in deep learning ANNs. Overall, these results suggest that biological sleep can help mitigate a number of problems ANNs suffer from, such as poor generalization and catastrophic forgetting for incremental learning.

研究の動機と目的

• 段階的学習における人工ニューラルネットワーク（ANN）の深刻な忘却を解消すること。
• ノイズや劣化した入力（例：ぼやけた画像やノイズの入った画像）に対してANNの一般化性能を向上させること。
• 明示的な再トレーニングなしに、未学習だが関連するタスクへのフォワード転送学習を可能にすること。
• スパイクダイナミクスとSTDPを用いて、生物的に妥当なスリープメカニズムをANNに実装すること。
• 既存のリハーよりも記憶効率が良く、スケーラブルな継続的学習手法の代替案を提供すること。

提案手法

• ReLU活性化関数を用いたトレーニング済みの人工ニューラルネットワーク（ANN）を、オフライン処理用にスパイクニューラルネットワーク（SNN）に変換する。
• SNNにおいてスリープに似た段階をシミュレートするため、内在的活性度を増加させ、ノイズの多い入力を用いてスパイク時刻依存可塑性（STDP）を適用する。
• 無教師STDPを用いて、シミュレートされたスリープ段階中、シナプス重みを変更し、生物学的記憶統合を模倣する。
• 変更されたSNNを再びANNに変換し、新しいタスクでの評価または継続的トレーニングを実施する。
• 初期バックプロパゲーショントレーニング後にスリープ段階を適用し、新しいタスク学習の前に記憶保持と一般化を実現する。
• MNIST、CUB200、およびトゥイ・データセットを用いて、多様なタスクと入力歪みに対する性能を検証する。

実験結果

リサーチクエスチョン

• RQ1 生物学的起源のスリープ段階は、段階的学習におけるANNの深刻な忘却を軽減できるか？
• RQ2 SNNにおけるスリープのシミュレーションは、ANNのノイズや劣化した入力に対する一般化性能を向上させるか？
• RQ3 スリープ段階は、未学習だが関連するタスクへのフォワード転送学習を可能にするか？
• RQ4 記憶効率と性能の観点から、既存のリハーサルや正則化手法と比較して、このスリープメカニズムはどのように差別化されるか？
• RQ5 スリープ段階における確率的ネットワークダイナミクスが、表現一般化の向上に果たす役割は何か？

主な発見

• スリープアルゴリズムは深刻な忘却を顕著に軽減し、新しいトレーニング後でも以前に学習したタスクの性能を回復させた。
• スリープ後、ノイズやぼやけたMNIST画像の分類精度が約20%から50%に向上した。
• ネットワークはフォワード転送学習を示し、明示的なトレーニングなしに未学習だが関連するタスクで性能向上を示した。
• 元のトレーニングデータや生成モデルの保存を必要とせず、入力歪みへの一般化性能が向上した。
• スリープにより敵対的攻撃に対する耐性が向上し、後続の分析でその抵抗性が明確に示された。
• このアプローチは、古いタスクへの機能的結合の維持が優れており、忘れられた知識の部分的保持が示唆された。