[論文レビュー] Sequential mastery of multiple visual tasks: Networks naturally learn to learn and forget to forget

Guy Davidson, Michael C. Mozer|arXiv (Cornell University)|May 26, 2019

Domain Adaptation and Few-Shot Learning被引用数 4

ひとこと要約

この論文は、特別なアーキテクチャーや正則化を用いずに、標準的な畳み込みニューラルネットワーク（CNN）が、複数の視覚的タスクを逐次学習する際、自然に前向き促進（forward facilitation）と後退的干渉の低下（reduced backward interference）を示すことを示している。ネットワークがより多くのタスクを習得するにつれ、新しいタスクをより速く学び、古いタッスクをより少なく忘れるようになる—これは、広範なドメインへの露出が継続的学習のスケーラビリティを本質的に向上させることを示唆しており、人間の学習に類似したスケーラビリティを示している。

ABSTRACT

We explore the behavior of a standard convolutional neural net in a continual-learning setting that introduces visual classification tasks sequentially and requires the net to master new tasks while preserving mastery of previously learned tasks. This setting corresponds to that which human learners face as they acquire domain expertise serially, for example, as an individual studies a textbook. Through simulations involving sequences of ten related visual tasks, we find reason for optimism that nets will scale well as they advance from having a single skill to becoming multi-skill domain experts. We observe two key phenomena. First, \\emph{forward facilitation}---the accelerated learning of task $n+1$ having learned $n$ previous tasks---grows with $n$. Second, \\emph{backward interference}---the forgetting of the $n$ previous tasks when learning task $n+1$---diminishes with $n$. Amplifying forward facilitation is the goal of research on metalearning, and attenuating backward interference is the goal of research on catastrophic forgetting. We find that both of these goals are attained simply through broader exposure to a domain.

研究の動機と目的

• 標準的なニューラルネットワークが、複数の順次的視覚的タスクにわたる継続的学習において、どのようにスケーリングするかを調査すること。
• 領域経験の増加に伴い、前向き促進（新しいタスクの習得が速くなること）と後退的干渉の低下（以前に学習したタスクの忘却が減ること）が自然に生じるかどうかを検討すること。
• 特別なメカニズムを用いずに、広範なドメイン経験が、災難的忘却（catastrophic forgetting）を緩和し、メタラーニングに類似した利点を向上させることを評価すること。
• ニューラルネットワークの学習ダイナミクスと人間の認知的学習パターン（特に分散練習とタスク類似性効果）との類似性を明らかにすること。

提案手法

• 10個の関連する視覚分類タスクを厳密に逐次順序で学習する標準的な畳み込みニューラルネットワークを訓練すること。
• 各新しいタスクに到達基準性能に達するまでの訓練試行回数を測定し、以前に学習したタスクの性能を維持することを確認すること。
• 新しいタスクを学習した後の以前のタスクの性能低下を測定し、性能を回復させる再学習の努力を追跡することで、後退的干渉を定量化すること。
• 学習曲線のべき乗則スケーリングと干渉・促進の非単調的パターンを含め、タスク間でのスケーリング行動を分析すること。
• タスク類似性効果をテストするために、タスクの次元（例：テクスチャ対形状）を変化させ、視覚処理に対するタスクベースのモジュレーションを導入すること。
• 対数-対数プロットを用いて、タスク数および各タスクの訓練曝露量に対する学習効率のべき乗則スケーリングを評価すること。

実験結果

リサーチクエスチョン

• RQ1 ネットワークがより多くの視覚的タスクを習得するにつれ、後続のタスクが自然に速く習得される前向き促進が生じるか？
• RQ2 ネットワークが順次学習を通じて領域専門知識を蓄積するにつれ、以前に学習したタスクの忘却（後退的干渉）が減少するか？
• RQ3 以前に学習したタスクの数が、新しいタスク習得の効率性と安定性にどのように影響するか？
• RQ4 タスク類似性が順次継続的学習における干渉と促進に及ぼす影響の程度はどの程度か？
• RQ5 順次的タスク曝露による分散的・入れ違いの練習が、特別な正則化やリプレイ機構を必要とせずに忘却を軽減できるか？

主な発見

• 前向き促進は、以前に学習したタスクの数に応じて増大する：ネットワークがドメイン専門知識を蓄積するにつれ、新しいタスクの習得が速くなる。これは、自己発生的メタラーニング能力を示唆している。
• 後退的干渉はタスク数の増加に伴い低下する：新しいタスクを導入した際の、初期タスクの性能低下が小さくなる。これは、時間の経過とともに記憶の安定性が向上することを示唆している。
• 以前のタスクの性能を回復させる再学習の努力は、反復曝露に伴い著しく減少する。これは、分散練習による持続的記憶形成を示している。
• 学習効率は、習得したタスク数および各タスクの訓練曝露量に対してべき乗則スケーリングに従う。これは、人間のスキル習得の特徴的パターンである。
• タスク2における忘却の異常な増加は、移行段階を示唆している可能性が高く、『ゼロ・イチ・インフィニティ』の原則に類似している。初期のタスクペアでは干渉が高くなる傾向がある。
• タスク類似性を低下させること（例：タスクの次元を変化させること）や、タスクベースの視覚処理のモジュレーションを導入することで、干渉が軽減される。これは、知覚的明確性が干渉を低減する役割を果たすことを支持している。