[論文レビュー] Representative Task Self-selection for Flexible Clustered Lifelong Learning

Gan Sun, Yang Cong+3 more|arXiv (Cornell University)|Mar 6, 2019

Domain Adaptation and Few-Shot Learning参考文献 35被引用数 6

ひとこと要約

本稿では、スパース自己符号化器と代表的タスク自己選択を用いて動的に特徴学習ライブラリと段階的モデル知識ライブラリを維持する、柔軟なクラスタリングされた生涯学習フレームワークFCL³を提案する。タスクが外れ値である場合には代表的モデルを適応的に追加し、それ以外の場合は共有表現を最適化することで、FCL³は実世界のデータセットにおいて、既存の生涯学習およびバッチ型クラスタリング多タスク学習手法を上回る性能を達成する。

ABSTRACT

Consider the lifelong machine learning paradigm whose objective is to learn a sequence of tasks depending on previous experiences, e.g., knowledge library or deep network weights. However, the knowledge libraries or deep networks for most recent lifelong learning models are with prescribed size, and can degenerate the performance for both learned tasks and coming ones when facing with a new task environment (cluster). To address this challenge, we propose a novel incremental clustered lifelong learning framework with two knowledge libraries: feature learning library and model knowledge library, called Flexible Clustered Lifelong Learning (FCL3). Specifically, the feature learning library modeled by an autoencoder architecture maintains a set of representation common across all the observed tasks, and the model knowledge library can be self-selected by identifying and adding new representative models (clusters). When a new task arrives, our proposed FCL3model firstly transfers knowledge from these libraries to encode the new task, i.e.,effectively and selectively soft-assigning this new task to multiple representative models over feature learning library. Then, 1) the new task with a higher outlier probability will be judged as a new representative, and used to redefine both feature learning library and representative models over time; or 2) the new task with lower outlier probability will only refine the feature learning library. For model optimization, we cast this lifelong learning problem as an alternating direction minimization problem as a new task comes. Finally, we evaluate the proposed framework by analyzing several multi-task datasets, and the experimental results demonstrate that our FCL3 model can achieve better performance than most lifelong learning frameworks, even batch clustered multi-task learning models.

研究の動機と目的

• 生涯学習における固定サイズの知識ライブラリの制限を解消し、未知のタスク環境に直面した際に性能が低下するのを防ぐこと。
• 動的環境下で、以前に学習したタスクと新しい、おそらく関連のないタスクとの間で効果的な知識移転を可能にすること。
• 新たなタスク環境が出現する度に、代表的モデル（クラスタ）を自己選択し、段階的に追加できる生涯学習システムを開発すること。
• 過去の知識を保持しながら、時間の経過に伴いモデル知識が進化するのを許容しつつ、すべてのタスクに共通する判別性の高い特徴表現を維持すること。
• バッチ型クラスタリング多タスク学習および最先端の生涯学習フレームワークを上回る性能を達成すること。

提案手法

• FCL³は2つの知識ライブラリを採用する：タスク間で共有される判別性の高い表現を学習するスパース自己符号化器を用いた特徴学習ライブラリ。
• 新しいタスクが外れ値と見なされた場合（高い外れ値確率）、代表的モデルを同定し追加することで、モデル知識ライブラリを段階的に更新する。
• 知識移転は、スパース制約を用いて選択的かつ効果的な移転を保証する、複数の代表的モデルへの新しいタスクのソフト代入により実現される。
• フレームワークは、交替方向分割法（ADMM）を用いて最適化する交替最小化問題として生涯学習問題を定式化する。
• 外れ値検出は、表現空間における距離ベースの指標を用い、代表的モデルの周囲での新しいタスク学習をテイラー展開で近似する。
• モデルは、特徴表現とモデル割り当てを、過去の知識を保持しながら新しいタスクに適応する交替最適化スキームを通じて共同最適化する。

実験結果

リサーチクエスチョン

• RQ1 未知のタスク環境に適応するために、性能を低下させることなく、モデルライブラリを動的に拡張できる生涯学習システムは実現可能か？
• RQ2 クラスタリングされた生涯学習設定において、以前に学習したタスクと新しい、おそらく関連性のないタスクとの間で、効果的な知識移転をどのように達成できるか？
• RQ3 固定または事前に定義されたモデルライブラリと比較して、代表的モデルの自己選択が性能にどれほど寄与するか？
• RQ4 スパース自己符号化器に基づく特徴学習ライブラリは、多様なタスク間での一般化および移転性能を向上させられるか？
• RQ5 FCL³フレームワークは、標準的な生涯学習およびバッチ型クラスタリング多タスク学習と比較して、正確性および適応性の面でどの程度優れているか？

主な発見

• FCL³は、SchoolおよびLandmineを含む複数の多タスクデータセットにおいて、大多数の生涯学習フレームワークを上回る優れた性能を達成する。
• Landmineデータセットでは、AUCが79.022% ± 0.42を達成し、ベースライン手法を上回る。
• Schoolデータセットでは、RMSEが9.985 ± 0.03を達成し、強力な回帰性能を示す。
• スパース自己符号化器アーキテクチャは特徴表現を著しく向上させ、デコーダーを除いたOurs-Rand（Ours-Rand）では顕著な性能低下が確認され、その重要性が裏付けられる。
• 統合型フレームワーク（Ours-woDecoder）は、二段階型のCL3-Randを上回る性能を示し、エンドツーエンド最適化の利点を示している。
• ADMMに基づく最適化は、交替最小化問題を効果的に解き、タスク間で安定的かつ収束性のある学習を可能にしている。