[論文レビュー] A general approach to progressive learning

Joshua T Vogelstein, Hayden S. Helm+8 more|arXiv (Cornell University)|Apr 27, 2020

Domain Adaptation and Few-Shot Learning参考文献 45被引用数 6

ひとこと要約

本論文は、代表的表現のアンサンブルを、継続的学習の一般化手法として提案する。この手法では、新しいデータを用いて過去、現在、将来のタスクのパフォーマンスを向上させることができるが、従来の方法とは異なり、深刻な忘却を引き起こさない。この方法は、決定森や深層ネットワークなどの多様な表現を活用し、視覚、自然言語、敵対的タスクにおいて一貫した向上を示す。リソース制約の有無にかかわらず有効である。

ABSTRACT

In biological learning, data are used to improve performance simultaneously on the current task, as well as previously encountered and as yet unencountered tasks. In contrast, classical machine learning starts from a blank slate, or tabula rasa, using data only for the single task at hand. While typical transfer learning algorithms can improve performance on future tasks, their performance on prior tasks degrades upon learning new tasks (called catastrophic forgetting). Many recent approaches have attempted to maintain performance given new tasks. But striving to avoid forgetting sets the goal unnecessarily low: the goal of progressive learning, whether biological or artificial, is to improve performance on all tasks (including past and future) with any new data. We propose representation ensembling, as opposed to learner ensembling (e.g., bagging), to address progressive learning. We show that representation ensembling -- including representations learned by decision forests or deep network -- uniquely demonstrates improved performance on both past and future tasks in a variety of simulated and real data scenarios, including vision, language, and adversarial tasks, with or without resource constraints. Beyond progressive learning, this work has immediate implications with regards to mitigating batch effects and federated learning applications. We expect a deeper understanding of the mechanisms underlying biological progressive learning to enable further improvements in machine progressive learning.

研究の動機と目的

• 古典的機械学習の限界、すなわち空の状態から出発し、現在のタスクに最適化するのみであるという点を解決すること。
• 転移学習における深刻な忘却を克服すること。これは、新しいタスクを学習する際に、以前に学習したタスクのパフォーマンスが低下する現象である。
• 継続的学習の真の目的を達成すること：新しいデータを用いて、過去、現在、将来のすべてのタスクのパフォーマンスを同時に向上させること。
• 視覚、自然言語、敵対的学習など多様な分野に応用可能な汎用的手法を開発すること。
• フェデレーテッドラーニングやバッチ効果の緩和における実用的意義を検討すること。

提案手法

• アンサンブル学習（例：バギング）ではなく、異なるモデルからの複数の表現を統合する代表的表現アンサンブルを提案する。
• 決定森や深層ニューラルネットワークなどの多様なアーキテクチャを用いて、タスク固有の表現を学習する。
• 単一のモデルを再訓練または微調整するのではなく、タスクを経て表現の集合を維持・更新することで、継続的学習を可能にする。
• 各新しいタスクに対してモデルを再訓練する必要がない、統一されたフレームワークを採用し、異なるモデルからの表現を統合する。
• リソースの制約の有無にかかわらず、表現の保存および推論を動的に管理することで、リソース制約あり・なしの両方の状況をサポートする。
• 視覚、自然言語、敵対的タスクの分野における実世界およびシミュレートされたデータを用いて、フレームワークの一般化を検証する。

実験結果

リサーチクエスチョン

• RQ1 代表的表現アンサンブルは、継続的学習の過程で、過去のタスクと将来のタスクの両方のパフォーマンスを同時に向上させることができるか？
• RQ2 代表的表現アンサンブルは、従来の転移学習やモデルアンサンブルと比較して、深刻な忘却をどれほど効果的に緩和できるか？
• RQ3 代表的表現アンサンブルは、視覚、自然言語、敵対的タスクなど多様な分野にどれほど一般化可能か？
• RQ4 メモリや計算リソースが制限される状況下でも、代表的表現アンサンブルは有効に機能するか？
• RQ5 このアプローチは、バッチ効果の緩和やフェデレーテッドラーニングといった現実世界の課題に対しても拡張可能か？

主な発見

• 代表的表現アンサンブルは、過去のタスクのパフォーマンスを一貫して向上させるとともに、将来のタスクのパフォーマンスも向上させることを示し、真の継続的学習を実現している。
• 標準的な転移学習やアンサンブル学習（例：バギング）と比較して、以前に学習したタスクのパフォーマンス低下を回避する。
• このアプローチは、視覚、自然言語処理、敵対的学習のシナリオを含む多様な分野で有効である。
• リソース制約下でも強いパフォーマンスを維持でき、スケーラビリティと適応性を示している。
• フェデレーテッドラーニングやバッチ効果の緩和において、即時の利点を提供する。継続的学習を越えて、より広範な応用可能性を示唆している。
• 結果から、継続的学習において、モデルレベルのアンサンブル手法よりも表現レベルの統合がより効果的であることが示唆される。