[論文レビュー] Learning an evolved mixture model for task-free continual learning

Fei Ye, Adrian G. Borş|arXiv (Cornell University)|Jul 11, 2022

Domain Adaptation and Few-Shot Learning被引用数 4

ひとこと要約

本論文は、データ分布の変化を検出するためにヒルベルト・シュミット独立性基準（HSIC）を用いて専門家を動的に追加する、タスクフリーな継続的学習フレームワーク「進化型混合モデル（EEM）」を提案する。VAEベースの専門家と2つのドロップアウト機構を組み合わせて記憶容量を管理し、深刻な忘却を回避する。MNIST、CIFAR、ImageNetのベンチマークで、タスク境界を設けずに最先端の性能を達成する。

ABSTRACT

Recently, continual learning (CL) has gained significant interest because it enables deep learning models to acquire new knowledge without forgetting previously learnt information. However, most existing works require knowing the task identities and boundaries, which is not realistic in a real context. In this paper, we address a more challenging and realistic setting in CL, namely the Task-Free Continual Learning (TFCL) in which a model is trained on non-stationary data streams with no explicit task information. To address TFCL, we introduce an evolved mixture model whose network architecture is dynamically expanded to adapt to the data distribution shift. We implement this expansion mechanism by evaluating the probability distance between the knowledge stored in each mixture model component and the current memory buffer using the Hilbert Schmidt Independence Criterion (HSIC). We further introduce two simple dropout mechanisms to selectively remove stored examples in order to avoid memory overload while preserving memory diversity. Empirical results demonstrate that the proposed approach achieves excellent performance.

研究の動機と目的

• 継続的学習においてタスクの識別子や境界が存在しない、現実的ではあるが未だ十分に検討されていない設定に対処すること。
• 記憶ベースの継続的学習における記憶過負荷と悪化する逆伝搬効果を克服するために、選択的サンプルドロップアウト機構を導入すること。
• タスクラベルに依存せずに、データ分布の変化に応じて動的にモデル拡張を実現すること。
• 非定常なデータストリームにおいて知識を保持できる、スケーラブルで無限容量の継続的学習システムを構築すること。
• 分類ラベルが存在しない状況において、HSICが混合モデル拡張の教師なし信号として有効であることを示すこと。

提案手法

• モデルは、表現学習にVAEベースの専門家を、予測に分類器を用いることで、動的アンサンブルアーキテクチャを形成する。
• 新規の拡張メカニズムは、各専門家の知識と現在のメモリバッファ間のHSICを評価し、分布の変化を検出し、新たな専門家の生成をトリガーする。
• 2つのドロップアウト機構により、記憶バッファ内の保存例を選択的に削除することで、過負荷を防ぎ、多様性を維持する。
• 拡張のしきい値はハイパーパrameter λ によって制御され、モデルの複雑さと性能のバランスをとる。
• 分類器は1ステップあたり10件のバッチで更新され、過去の全データにアクセスできない状況を想定し、リアルタイムストリーミング設定を模倣する。
• フレームワークはタスク境界なしにエンドツーエンドで学習され、HSICに基づく拡張信号と記憶正則化にのみ依存する。

Fig. 1 : Expansion and dropout mechanism in the proposed EMM model. We first infer the latent variables using each expert and then use HSIC to evaluate the discrepancy between each expert and the current memory. Then we perform either the mixture expansion or the memory buffer data dropout mechanism

実験結果

リサーチクエスチョン

• RQ1 タスクラベルなしで、データ分布の変化に応じて動的にモデル容量を拡張できる継続的学習モデルは構築可能か？
• RQ2 タスクフリーな設定において、HSIC基準はモデル拡張のトリガーとしての教師なし信号としてどれほど有効か？
• RQ3 選択的記憶ドロップアウト機構は、記憶過負荷を防ぎつつ、知識の多様性を維持できるか？
• RQ4 提案された進化型混合モデル（EEM）は、既存の動的拡張および記憶ベースのアプローチを上回る性能を発揮するか？
• RQ5 本モデルは、MINI-ImageNetのような大規模かつ長尾型のデータストリームにもスケーラブルに適応できるか？

主な発見

• Split MNISTでは、EEM-SWが96.79%の精度を達成し、CoPE（93.94%）とCNDPM（93.23%）を上回った。
• Split CIFAR10では、EEM-SWが58.81%の精度を達成し、CoPE（48.92%）とCNDPM（45.21%）を上回った。
• Split CIFAR100では、EEM-SWが22.33%の精度を達成し、CoPE（21.62%）とCNDPM（20.10%）を上回った。
• 大規模なSplit MImageNetベンチマークでは、EEM-SWが28.90%の精度を達成し、ER a（25.92%）とMIR（25.21%）を上回った。
• アブレーションスタディの結果、HSICしきい値λを最適値を超えて上昇させると、モデルの複雑さは増すが、精度の向上は鈍化する傾向が示された。
• 提案されたドロップアウト機構は、すべてのベンチマークで記憶過負荷を効果的に軽減しながら、高い性能を維持した。

Fig. 2 : Evaluation of the EMM-SW model when training on Split MNIST, when varying threshold $\lambda$ in Eq. ( 6 ).