[論文レビュー] ORACLE: Order Robust Adaptive Continual LEarning.

Jaehong Yoon, Saehoon Kim+2 more|arXiv (Cornell University)|Feb 25, 2019

Domain Adaptation and Few-Shot Learning参考文献 16被引用数 10

ひとこと要約

ORACLEは、モデルパラメータをタスク共有部とタスク適応部に分解する、継続的学習の新規手法を提案する。後者はスパースな低ランク行列に因数分解され、容量の増大を最小限に抑える。この設計により、深刻な忘却が軽減され、異なるタスク順序における性能ばらつきが著しく減少し、計算コストが低く抑えられ、医療診断のような実世界の応用においても公平性が向上する。

ABSTRACT

The order of the tasks a continual learning model encounters may have large impact on the performance of each task, as well as the task-average performance. This order-sensitivity may cause serious problems in real-world scenarios where fairness plays a critical role (e.g. medical diagnosis). To tackle this problem, we propose a novel order-robust continual learning method, which instead of learning a completely shared set of weights, represent the parameters for each task as a sum of task-shared parameters that captures generic representations and task-adaptive parameters capturing task-specific ones, where the latter is factorized into sparse low-rank matrices in order to minimize capacity increase. With such parameter decomposition, when training for a new task, the task-adaptive parameters for earlier tasks remain mostly unaffected, where we update them only to reflect the changes made to the task-shared parameters. This prevents catastrophic forgetting for old tasks and at the same time make the model less sensitive to the task arrival order. We validate our Order-Robust Adaptive Continual LEarning (ORACLE) method on multiple benchmark datasets against state-of-the-art continual learning methods, and the results show that it largely outperforms those strong baselines with significantly less increase in capacity and training time, as well as obtains smaller performance disparity for each task with different order sequences.

研究の動機と目的

• タスク順序がモデル性能と公平性に顕著に影響を与える継続的学習における順序感受性という重要な問題に対処すること。
• パラメータ共有に依存せずに、継続的学習における深刻な忘却を軽減すること。
• すべてのタスクで高い性能を維持しつつ、容量と学習時間の増加を最小限に抑えること。
• 特に医療診断のような高リスク分野において重要な、タスク到着順序への頑健性を確保すること。
• タスク適応部が新しいタスク学習時にほとんど変化しないようなパrameterization方式を構築すること。

提案手法

• モデルパラメータを、汎用的表現を捉えるタスク共有部と、タスク固有の特徴を処理するタスク適応部に分解する。
• タスク適応部パラメータをスパースな低ランク行列に因数分解し、継続的学習における容量拡大を制限する。
• 新しいタスクの学習時に、タスク共有部のパラメータのみを更新し、過去のタスクのタスク適応部パラメータをほとんど固定したままに保つ。
• 共有部の変化が適応部に影響を与える場合にのみ、適応部パラメータに勾配更新を適用することで、干渉を低減する。
• タスク固有の適応と共有表現学習を分離するパrameterization戦略を採用する。
• 分解を活用して系列全体にわたる学習を安定化させる標準的な継続的学習目的関数に従い、モデルをエンドツーエンドで訓練する。

実験結果

リサーチクエスチョン

• RQ1 ORACLEは、既存の継続的学習手法と比較して、異なるタスク順序における性能ばらつきをどの程度低減するか？
• RQ2 共有部とスパースな低ランク適応部にパラメータを分解することで、忘却と容量増大にどのような影響を与えるか？
• RQ3 タスクがどの順序で提示されても、ORACLEはすべてのタスクで高い性能を維持できるか？
• RQ4 トレーニング時間とモデル容量の増加という観点から、ORACLEは最先端手法と比較してどう異なるか？
• RQ5 本手法は、タスク順序が予測不可能または非理想的な状況において、継続的学習の公平性を向上させるか？

主な発見

• ORACLEは、複数のベンチマークデータセットにおいて、平均タスク精度の観点で最先端の継続的学習手法を著しく上回る。
• 異なるタスク順序系列における性能差が著しく低く抑えられており、強い順序頑健性が示された。
• 強力なベースラインと比較して、モデル容量とトレーニング時間の増加がはるかに小さい。
• 新しいタスク学習時にタスク適応部パラメータがほとんど変化しないため、初期タスクからの知識が効果的に保持された。
• スパースな低ランク因数分解を用いることで、パラメータの増大を効果的に制御しながらも、高いモデル表現力が維持された。
• 特に非理想的または悪意のある順序でタスクが提示された場合に、深刻な忘却が顕著に減少した。