[論文レビュー] Overcoming Catastrophic Forgetting by Neuron-level Plasticity Control

Inyoung Paik, Sangjun Oh+2 more|arXiv (Cornell University)|Jul 31, 2019

Domain Adaptation and Few-Shot Learning参考文献 27被引用数 4

ひとこと要約

この論文は、個々の重みの制約ではなく、各ニューロンの重要度に基づいて学習率を動的に調整することで、災難的忘却を軽減するニューロンレベルの可塑性制御（NPC）を提案する。NPCはiMNISTおよびiCIFAR100でEWC、MAS、SIといった接続レベルの統合手法を著しく上回り、それぞれ平均正答率99.63%および71.87%を達成するが、タスク固有のパラメータ値を保存する必要がないため、メモリ使用量を削減する。

ABSTRACT

To address the issue of catastrophic forgetting in neural networks, we propose a novel, simple, and effective solution called neuron-level plasticity control (NPC). While learning a new task, the proposed method preserves the knowledge for the previous tasks by controlling the plasticity of the network at the neuron level. NPC estimates the importance value of each neuron and consolidates important extit{neurons} by applying lower learning rates, rather than restricting individual connection weights to stay close to certain values. The experimental results on the incremental MNIST (iMNIST) and incremental CIFAR100 (iCIFAR100) datasets show that neuron-level consolidation is substantially more effective compared to the connection-level consolidation approaches.

研究の動機と目的

• 深層ニューラルネットワークにおける連続的学習において、順次的な学習が以前に学習した知識を上書きしてしまうという災難的忘却を解決すること。
• 個々の重みを制限する接続レベルの統合手法の限界を克服し、タスク固有のパラメータ値を保存する必要をなくすこと。
• ニューロンレベルの重要度に基づく動的学習率調整による、重要なニューロンの統合を通じて知識の保持を向上させること。
• 1つのニューロンあたり1つの重要度値を保存することで、タスク数に依存しない、メモリおよび計算のオーバーヘッドを低減すること。
• 重みベースの統合とは対照的に、ニューロンレベルの可塑性を、深層学習におけるより効果的で効率的な代替手段として探求すること。

提案手法

• NPCは、タスク学習中の勾配の大きさを用いて各ニューロンの重要度を推定し、個々の重みではなくニューロンを統合の単位として扱う。
• 以前のタスクに重要なニューロンに対しては低い学習率を適用することで、可塑性を制御し、その学習済み表現を保存する。
• 1つのニューロンあたり1つの重要度値を用いるため、複数のタスクにわたる最適化された重みの複数セットを保存する必要がなくなる。
• ニューロンの重要度は、学習プロセス全体における絶対勾配の平均値として計算され、そのニューロンが以前のタスクのパフォーマンスに与える寄与度を反映する。
• 損失関数に、高重要度のニューロンの変化をペナルティとして課す正則化項を組み込むことで、効果的な統合が実現される。
• 標準的な誤差逆伝播法と互換性があり、アーキテクチャの変更なしにフィードフォワードネットワークおよび畳み込みネットワークに適用可能である。

実験結果

リサーチクエスチョン

• RQ1 ニューロンレベルの可塑性制御は、従来の接続レベルの統合手法よりも災難的忘却を効果的に軽減できるか？
• RQ2 ニューロンレベルで可塑性を制御することは、重みレベルの正則化と比較して、以前のタスクの知識の保持をより良くするか？
• RQ3 NPCは、タスク固有のパラメータ値を保存しなくても、複数のタスクで高いパフォーマンスを維持できるか。これにより、メモリ使用量が削減されるか？
• RQ4 NPC下でのニューロンの活性化変化の分布は、そのニューロンの重要度とどのように相関するか？
• RQ5 iMNISTおよびiCIFAR100のような多様なデータセットにおいて、特にタスクの複雑さが増した場合にNPCは有効か？

主な発見

• iMNISTデータセットでは、NPCは平均検証正答率99.63%（±0.02）を達成し、EWC（95.42%）、MAS（98.76%）、SI（97.24%）、SSL（96.87%）を著しく上回った。
• iCIFAR100データセットでは、NPCは平均正答率71.87%（±0.65）を達成し、EWC（64.57%）、MAS（65.54%）、SI（57.91%）、SSL（65.16%）を上回ったが、タスク5ではわずかな劣位を示した。
• NPC下で最も重要な上位10%のニューロンの平均活性化変化は0.094にとどまり、全ニューロンの平均0.383と比べて顕著に低い。これは、重要な表現が強く保存されていることを示している。
• 最も重要でない上位10%のニューロンの平均活性化変化は0.667であり、全体の平均より顕著に高い。これは、重要でないニューロンが新しいタスクに適応しやすいことを示している。
• 統合なしでは、ニューロンの重要度と活性化変化の間に有意な相関は認められず、NPCが適切なニューロンを的確に特定して保存していることを確認した。
• NPCはタスク固有のパラメータを保存する必要がなく、タスク数に関係なく一定のメモリ使用量を維持する。これに対して接続レベルの手法はタスク数に比例して増加する。