[論文レビュー] Efficient Architecture Search for Continual Learning

Qiang Gao, Zhipeng Luo+1 more|arXiv (Cornell University)|Jun 7, 2020

Domain Adaptation and Few-Shot Learning参考文献 24被引用数 4

ひとこと要約

CLEASは、最小限の複雑さで動的にニューラルネットワークを拡張するニューロンレベルのニューラルアーキテクチャ探索（NAS）を用いる、継続的学習のための新規フレームワークを提案する。過去のニューロンのうち最も有用なものを再利用し、新しいニューロンをわずかに追加することで、SOTA手法と比較して最大51%のモデル複雑度削減を達成しながら、最先端の精度を実現し、固定された古い重みのおかげで完全に崩壊的忘却を回避する。

ABSTRACT

Continual learning with neural networks is an important learning framework in AI that aims to learn a sequence of tasks well. However, it is often confronted with three challenges: (1) overcome the catastrophic forgetting problem, (2) adapt the current network to new tasks, and meanwhile (3) control its model complexity. To reach these goals, we propose a novel approach named as Continual Learning with Efficient Architecture Search, or CLEAS in short. CLEAS works closely with neural architecture search (NAS) which leverages reinforcement learning techniques to search for the best neural architecture that fits a new task. In particular, we design a neuron-level NAS controller that decides which old neurons from previous tasks should be reused (knowledge transfer), and which new neurons should be added (to learn new knowledge). Such a fine-grained controller allows one to find a very concise architecture that can fit each new task well. Meanwhile, since we do not alter the weights of the reused neurons, we perfectly memorize the knowledge learned from previous tasks. We evaluate CLEAS on numerous sequential classification tasks, and the results demonstrate that CLEAS outperforms other state-of-the-art alternative methods, achieving higher classification accuracy while using simpler neural architectures.

研究の動機と目的

• 継続的学習における3つの核心的課題、すなわち崩壊的忘却、新しいタスクへの効果的適応、モデル複雑度の制御に取り組む。
• 高い性能を維持しつつ、アーキテクチャの拡張を最小限に抑える動的ネットワーク拡張戦略を開発する。
• すべての以前に訓練された重みを保持し、ファインチューニングを行わないことで、崩壊的忘却を完全に排除する。
• 正確で効率的なアーキテクチャ選択が可能なニューロンレベルでのNASコントローラーを設計する。
• 特に逐次学習のシナリオにおいて、性能を損なわずネットワークの複雑度を低減する。

提案手法

• 強化学習に基づくNASコントローラーがニューロンレベルで動作し、各新しいタスクに対してどの古いニューロンを再利用するか、そして何個の新しいニューロンを追加するかを決定する。
• コントローラーは、個々のニューロンの状態定義よりも包括的なネットワーク構成を状態として使用することで、より洗練された意思決定が可能になる。
• 古いニューロンの重みは凍結され、完全な知識保持が保証され、崩壊的忘却が完全に排除される。
• この手法は、CNNにおけるフィルターサイズ最適化をサポートし、タスクごとにカーネルサイズを動的に調整可能である。
• アーキテクチャ探索はタスクごとに行われ、再利用と拡張のバランスが取れたコンactなタスク固有のネットワークが得られる。
• 本手法は、MNISTの順列変換およびCIFAR-100を含む逐次分類タスクで評価され、コントローラー設計のアブレーションとハイパーパramータ感度分析も実施されている。

実験結果

リサーチクエスチョン

• RQ1 既存手法と比較して、ニューロンレベルのNASコントローラーは、より低いモデル複雑度でより優れた継続的学習性能を達成できるか？
• RQ2 固定された古い重みを維持することで、崩壊的忘却は完全に排除されるとともに、新しいタスクへの効果的適応も可能になるか？
• RQ3 CNNにおける動的フィルターサイズ調整は、複雑度を著しく増加させることなく、性能をさらに向上させられるか？
• RQ4 状態表現の選択（全ネットワーク vs. 個々のニューロン）が、探索性能にどのように影響するか？
• RQ5 従来の手法と比較して、本手法はハイパーパramータの変動に対してどの程度頑健であるか？

主な発見

• CLEASは、3つのベンチマークデータセットにおいて、SOTA手法RCLと比較して分類精度をそれぞれ0.21%、0.21%、6.70%向上した。
• CLEASは、同じデータセットにおいてRCLと比較して、ネットワーク複雑度をそれぞれ29.9%、19.0%、51.0%削減した。
• コントローラーが全ネットワークを状態として使用することで、3つのデータセットでそれぞれ0.31%、0.29%、0.75%の性能向上が達成された。
• フィルターサイズ最適化を実施したCLEAS-Cは、CIFAR-100で67.4%の精度を達成し、CLEAS（66.9%）と比較して0.7%向上したが、複雑度は92.6%高い。
• CLEASとRCLはタスクごとにほぼ同じ数の新しいニューロンを追加したが、CLEASははるかに少ない古いニューロンを再利用しており、有用な先行知識の選択が優れていることが示された。
• ハイパーパramータ感度分析の結果、CLEASはDENやRCLと比較して感受性が低く、全テスト設定で高い性能を維持した。