[論文レビュー] An Adaptive Random Path Selection Approach for Incremental Learning

Jathushan Rajasegaran, Munawar Hayat+4 more|arXiv (Cornell University)|Jun 3, 2019

Domain Adaptation and Few-Shot Learning参考文献 36被引用数 17

ひとこと要約

この論文では、災害的忘却を軽減し、効率性を向上させるために、新しいタスクに対して最適なランダムパスを動的に選択するインクリメンタル学習フレームワーク、Adaptive RPS-Netを提案する。既存のパラメータを再利用することで、忘却を抑える。知識 distillation、レトロスペクティブ、および柔軟性コントローラーを統合し、CIFAR-100 (+7.38%) および ImageNet (+10.64%) で最先端の性能を達成。推論時間は一定で、計算オーバーヘッドは最小限に抑えられる。

ABSTRACT

In a conventional supervised learning setting, a machine learning model has access to examples of all object classes that are desired to be recognized during the inference stage. This results in a fixed model that lacks the flexibility to adapt to new learning tasks. In practical settings, learning tasks often arrive in a sequence and the models must continually learn to increment their previously acquired knowledge. Existing incremental learning approaches fall well below the state-of-the-art cumulative models that use all training classes at once. In this paper, we propose a random path selection algorithm, called Adaptive RPS-Net, that progressively chooses optimal paths for the new tasks while encouraging parameter sharing between tasks. We introduce a new network capacity measure that enables us to automatically switch paths if the already used resources are saturated. Since the proposed path-reuse strategy ensures forward knowledge transfer, our approach is efficient and has considerably less computation overhead. As an added novelty, the proposed model integrates knowledge distillation and retrospection along with the path selection strategy to overcome catastrophic forgetting. In order to maintain an equilibrium between previous and newly acquired knowledge, we propose a simple controller to dynamically balance the model plasticity. Through extensive experiments, we demonstrate that the Adaptive RPS-Net method surpasses the state-of-the-art performance for incremental learning and by utilizing parallel computation this method can run in constant time with nearly the same efficiency as a conventional deep convolutional neural network.

研究の動機と目的

• 災害的忘却を解消するため、安定性と柔軟性のバランスを保つこと。
• 効率的なパラメータ共有とパス再利用を通じて、前向きおよび後向きの知識移転を可能にすること。
• ネットワーク容量を動的に推定し、最適なパスを選択することで、計算オーバーヘッドとメモリ使用量を低減すること。
• 従来の方法とは異なり、タスク数に線形に増加する制限付きパラメータ予算を維持すること。
• 再訓練を再開することなく、継続的学習を実現するために、並列学習と推論をサポートすること。

提案手法

• Adaptive RPS-Net は、新しいタスクのための最適パスを発見するためのランダムパス選択戦略を用い、ネットワーク容量が飽和した際にパスを動的に切り替える。
• 必要最小限にパス切り替えをトリガーするための新しいネットワーク容量測定法を導入し、リソースの効率的利用を確保する。
• コントローラーモジュールがモデルの柔軟性を動的にバランスさせ、旧来の知識と新規知識の均衡を保つ。
• スタックド残差構造を採用し、新しいタスクの補完的特徴を学習しながら、事前に調整されたパラメータを再利用する。
• 知識 distillation とレトロスペクティブを統合し、旧タスクのパフォーマンスを維持するとともに、後向きの知識移転を可能にする。
• 学習および推論の両方で並列計算をサポートし、標準の CNN と同等の定常時間効率を達成する。

実験結果

リサーチクエスチョン

• RQ1 順次的に新しいタスクを学習する際、過去に学習したタスクのパフォーマンスを維持しながら、新しいタスクを学習できるか？
• RQ2 災害的忘却を回避しつつ、インクリメンタル学習における効率的かつスケーラブルなネットワークパスの選択と再利用の方法は何か？
• RQ3 継続的学習環境において、前向きおよび後向きの知識移転を効果的に実現するにはどうすればよいか？
• RQ4 動的パス選択戦略は、静的またはヒューリスティックなパス割り当てを上回る精度と効率を達成できるか？
• RQ5 ネットワーク容量とタスク進行に応じて適応可能な学習可能なコントローラーにより、安定性と柔軟性のジレンマをどのように解消できるか？

主な発見

• Adaptive RPS-Net は、10タスクの CIFAR-100 で 60.83% の精度を達成し、前回の SOTA を 7.38% 上回った。
• ImageNet では、前回の最先端モデルを 10.64% 上回る性能を発揮した。
• 3つのパスとしきい値ベースのパス選択のみで、CIFAR-100（10タスク）で 59.15% の精度を達成し、RPS-Net よりも約 40% の計算効率向上を示した。
• モデルは強力な前向き移転を示し、最後のタスクでは1エポックで最終精度の 95% を達成したが、初期のタスクは最大20エポックを要した。
• 新しいタスクの学習に伴い、初期タスクのパフォーマンスが徐々に向上する傾向が観察され、知識の統合が行われていることが示された。
• バイナリトーナメント選択を用いた遺伝的アルゴリズムと比較すると、ランダムパス選択ははるかに低い計算コストで高い精度（96.52% 対 96.32%）を達成した。