[論文レビュー] Encoders and Ensembles for Task-Free Continual Learning

Murray Shanahan, Christos Kaplanis+1 more|arXiv (Cornell University)|May 27, 2021

Domain Adaptation and Few-Shot Learning参考文献 49被引用数 10

ひとこと要約

本論文は、タスクフリー連続的学習のためのエンコーダーとアンサンブルアーキテクチャを提案する。固定された自己教師あり事前学習済み画像エンコーダーが特徴を抽出し、単純なキーベースの1層分類器のアンサンブルが動的に予測を選択・統合する。本手法は、アーキテクチャの特化と集合的推論により、災難的忘却を軽減することで、オンライン、インクリメンタル、概念的シフトを伴うデータ設定において、CIFAR-10およびCIFAR-100で先行研究の最先端性能を大幅に上回る。

ABSTRACT

We present an architecture that is effective for continual learning in an especially demanding setting, where task boundaries do not exist or are unknown, and where classes have to be learned online (with each example presented only once). To obtain good performance under these constraints, while mitigating catastrophic forgetting, we exploit recent advances in contrastive, self-supervised learning, allowing us to use a pre-trained, general purpose image encoder whose weights can be frozen, which precludes forgetting. The pre-trained encoder also greatly simplifies the downstream task of classification, which we solve with an ensemble of very simple classifiers. Collectively, the ensemble exhibits much better performance than any individual classifier, an effect which is amplified through specialisation and competitive selection. We assess the performance of the encoders-and-ensembles architecture on standard continual learning benchmarks, where it outperforms prior state-of-the-art by a large margin on the hardest problems, as well as in less familiar settings where the data distribution changes gradually or the classes are presented one at a time.

研究の動機と目的

• タスク境界が存在しない、もしくは不明であり、クラスがオンラインで学習されるという、最も現実的で挑戦的な設定における災難的忘却の問題に対処すること。
• タスク境界や明示的なタスク推論を必要としないスケーラブルで効果的なアーキテクチャを構築すること。
• 自己教師あり事前学習とアンサンブル学習を活用して、インクリメンタルなクラス学習においても忘却を低減しつつ高い精度を維持すること。
• 3つの異なる連続的学習の枠組み（タスク別分割、インクリメンタルクラス学習、徐々に変化する分布シフト）において、標準ベンチマークで性能を評価すること。

提案手法

• 事前学習済みで固定された画像エンコーダー（例：BYOL や ReLIC からのもの）を用い、固定された汎用的特徴を抽出することで、特徴抽出段階での忘却を排除する。
• エンコーダーの潜在空間内のランダムなキーベースに紐づいた単一層分類器のアンサンブルを採用し、コサイン類似度に基づくk近傍法による動的分類器選択を可能にする。
• 入力エンコーディングと各分類器のキーベースとのコサイン類似度に基づいて重みを決定し、分類器出力を重み付き平均で統合する。
• 重み更新を関連する分類器ヘッドに限定し干渉を低減するため、特定の活性化関数（tanh）とクラス固有のスケーリングを施した交差エントロピー損失関数を適用する。
• キーマッチングに基づく競合的選択により、分類器の特化と集合的頑健性を促進する。
• タスク境界やメモリリプレイを必要とせず、事前学習エンコーダーの構造的不変性とモジュール型分類器アンサンブルに依存する。

実験結果

リサーチクエスチョン

• RQ1 固定された事前学習済みエンコーダーと分類器アンサンブルを組み合わせた単純なアーキテクチャは、タスクフリー連続的学習において、既存手法を上回る性能を発揮できるか？
• RQ2 タスク境界が存在せずクラスが1つずつ順次提示される状況でも、このアーキテクチャはどれほど効果的か？
• RQ3 分類器の特化とアンサンブル統合の組み合わせは、インクリメンタル学習における災難的忘却をどの程度軽減できるか？
• RQ4 離散的なタスクに分かれていない、時間とともに徐々に変化するデータ分布に対しても、本手法は一般化可能か？

主な発見

• 提案アーキテクチャは、タスクフリー連続的学習ベンチマークにおいてCIFAR-10およびCIFAR-100で最先端性能を達成し、先行手法を大きく上回る。
• 1クラスずつ順次学習する完全インクリメンタル設定においても、全クラスで高い精度を維持し、災難的忘却に対する強い耐性を示した。
• ガウススケジュールによる徐々にシフトするデータ分布の設定でも良好な性能を発揮し、クラス境界がぼやけ、離散的なタスクが存在しない状況でも有効である。
• 固定エンコーダーと単純な分類器アンサンブルの組み合わせは、個々の構成要素よりも効果的であり、相乗効果が性能向上を促進した。
• tanh活性化関数とクラス固有の損失関数の使用により、重み更新が関連する分類器ヘッドに限定され、忘却が顕著に低減された。
• 1エポックのみのオンライン学習環境でも強力な結果を達成しており、リアルタイムでストリーミングデータを処理するのに適していることが確認された。