[論文レビュー] Simple Lifelong Learning Machines

Jayanta Dey, Joshua T. Vogelstein+14 more|arXiv (Cornell University)|Apr 27, 2020

Computability, Logic, AI Algorithms被引用数 4

ひとこと要約

本稿では、異なるタスクで個別に訓練されたモデルの表現をアンサンブルすることで、前向きおよび後向きの転送を可能にする、継続的学習のためのアルゴリズムであるSynergistic Forests (SynF) およびSynergistic Networks (SynN) を提案する。タスク固有の表現の準線形時間アンサンブルを活用することで、視覚、聴覚、表形式のベンチマークにおいて顕著な性能向上を達成し、低データおよび高データの両状況で既存の手法を上回る性能を示す。

ABSTRACT

In lifelong learning, data are used to improve performance not only on the present task, but also on past and future (unencountered) tasks. While typical transfer learning algorithms can improve performance on future tasks, their performance on prior tasks degrades upon learning new tasks (called forgetting). Many recent approaches for continual or lifelong learning have attempted to maintain performance on old tasks given new tasks. But striving to avoid forgetting sets the goal unnecessarily low. The goal of lifelong learning should be to use data to improve performance on both future tasks (forward transfer) and past tasks (backward transfer). In this paper, we show that a simple approach -- representation ensembling -- demonstrates both forward and backward transfer in a variety of simulated and benchmark data scenarios, including tabular, vision (CIFAR-100, 5-dataset, Split Mini-Imagenet, and Food1k), and speech (spoken digit), in contrast to various reference algorithms, which typically failed to transfer either forward or backward, or both. Moreover, our proposed approach can flexibly operate with or without a computational budget.

研究の動機と目的

• 既存の継続的学習アルゴリズムが前向きおよび後向きの両方の転送を達成できないという限界を解決すること。
• 過去および未来の両方のタスクで継続的に改善が可能な、スケーラブルで準線形時間の手法を構築すること。
• 特に転送が最も重要となる低データ状態でも、前向きおよび後向きの転送を体系的かつ実現可能にすること。
• 災害的忘却を回避しながら、新しい表現を動的に統合できるリソース増強型のアプローチを提供すること。
• 視覚（CIFAR-100, Food1k, Split Mini-Imagenet）、聴覚（スプoken digits）、表形式データを含む多様なベンチマークで、手法の有効性を検証すること。

提案手法

• 各タスクで個別に学習された表現を、バギング風のアプローチでアンサンブルする。各タスクは別個の推定器（ランダムフォレストまたは深層ニューラルネットワーク）でモデル化される。
• 新しいタスクが登場する度に、訓練済みの表現を保存し、その後、既存の表現と平均化または投票によって統合して統一された予測器を形成する。
• 推論プロセスでは、すべての過去に学習された表現を特徴量として使用するため、再訓練を伴わず、前向きおよび後向きの転送が可能になる。
• 全再訓練やパラメータ正則化を回避することで、タスク数およびサンプル数に対して準線形時間の計算複雑度を達成する。
• タスクに依存するアプローチであり、推論時にサンプルが属するタスクを認識できるため、選択的な表現統合が可能になる。
• アブレーションスタディでは、表現容量の増大および旧タスクデータのリプレイが性能向上に寄与することが示された。

実験結果

リサーチクエスチョン

• RQ1 個別に訓練されたモデルの表現アンサンブルは、継続的学習において前向きおよび後向きの両方の転送を可能にするか？
• RQ2 提案手法は、特に転送が最も求められる低データ状態でも顕著な転送を達成できるか？
• RQ3 多様なベンチマークにおいて、表現アンサンブル手法の性能は、既存の継続的学習アルゴリズムと比較して優れているか？
• RQ4 表現容量および旧データのリプレイが、アンサンブル化されたシステムの性能に与える影響は何か？
• RQ5 準線形時間のアルゴリズムは、多数のタスクおよび高次元データを伴う大規模な継続的学習シナリオに効果的にスケーリングできるか？

主な発見

• SynFおよびSynNは、視覚、聴覚、表形式データのすべてのデータセットにおいて、前向き、後向き、および全体の転送性能で、すべての基準となるアルゴリズムを上回った。
• スプoken digitsデータセットでは、SynFおよびSynNは正の後向きおよび前向きの転送を達成したが、他の手法は両方を同時に達成できなかった。
• Food1k 50X20データセットでは、SynNがすべてのアルゴリズムの中で最高の性能を示し、大規模な設定における強力なスケーラビリティと転送能力を示した。
• Split Mini-Imagenetおよび5データセットにおいて、SynFおよびSynNは、タスクあたりのサンプル数が比較的少ない状況でも、参照手法よりも記憶の劣化が少なかった。
• アブレーションスタディにより、表現容量の増大および旧タスクデータのリプレイが性能向上に顕著に寄与することが確認され、これらの要因の重要性が裏付けられた。
• バギングベースの継続的学習（SynF/SynN）が、ブースティングベースの手法（例：Model Zoo）を上回ることを示した。これは、単一タスク学習における既知の挙動と整合的である。