[論文レビュー] Generalized Variational Continual Learning

Noel Loo, Siddharth Swaroop+1 more|arXiv (Cornell University)|Nov 24, 2020

Domain Adaptation and Few-Shot Learning参考文献 31被引用数 15

ひとこと要約

本稿では、尤度温度調整を用いて、変分継続的学習（VCL）とオンラインエラスティックウェイトコンsolidation（Online EWC）を統合する一般化変分継続的学習（GVCL）という統一フレームワークを提案する。この手法は著しく性能を向上させる。さらに、変分推論の過剰なプルーニング問題を軽減するため、タスク固有のFiLM層を導入し、最先端の精度と、特に少数データ環境下での良好なキャリブレーション性能を達成した。

ABSTRACT

Continual learning deals with training models on new tasks and datasets in an online fashion. One strand of research has used probabilistic regularization for continual learning, with two of the main approaches in this vein being Online Elastic Weight Consolidation (Online EWC) and Variational Continual Learning (VCL). VCL employs variational inference, which in other settings has been improved empirically by applying likelihood-tempering. We show that applying this modification to VCL recovers Online EWC as a limiting case, allowing for interpolation between the two approaches. We term the general algorithm Generalized VCL (GVCL). In order to mitigate the observed overpruning effect of VI, we take inspiration from a common multi-task architecture, neural networks with task-specific FiLM layers, and find that this addition leads to significant performance gains, specifically for variational methods. In the small-data regime, GVCL strongly outperforms existing baselines. In larger datasets, GVCL with FiLM layers outperforms or is competitive with existing baselines in terms of accuracy, whilst also providing significantly better calibration.

研究の動機と目的

• VCLとOnline EWCを、単一の尤度温度調整付き変分推論フレームワークとして統一すること。
• 継続的学習における変分推論に内在する過剰なプルーニング問題を解決すること。
• 特に少数データ環境下での一般化性能とキャリブレーションの向上を図ること。
• 変分継続的学習手法の性能を向上させるスケーラブルなアーキテクチャ的解決策を開発すること。
• CIFAR-10, CIFAR-100, MNIST, SVHN, Fashion-MNIST, TrafficSigns, Facescrub, NotMNISTを含む多様な継続的学習ベンチマークを用いて、フレームワークの実証的検証を行うこと。

提案手法

• GVCLは、ELBOにおけるKL正則化項を軽減するために温度パラメータβを導入することで、VCL目的関数に尤度温度調整を適用する。
• β → 0 の極限において、この手法はOnline EWCに回復され、VCLとOnline EWCの間を滑らかに補間可能となる。
• 変分推論における過剰なプルーニングを軽減するために、タスク固有の特徴調製を可能にする、新規のアーキテクチャ的要素「タスク固有のFiLM層」を導入する。
• FiLM層は畳み込み層の直後に適用され、主ネットワークと同時に端末から端末まで訓練され、各タスクごとに特徴量を適応的にスケーリング・シフトする。
• 標準的な継続的学習ベンチマーク（CIFAR-10, CIFAR-100, MNIST, SVHN, Fashion-MNIST, TrafficSigns, Facescrub, NotMNIST）を用いてフレームワークを評価する。
• 少数データおよび多数データの両環境下で手法をテストし、FiLM層およびβ値に関するアブレーションスタディを実施する。

実験結果

リサーチクエスチョン

• RQ1 尤度温度調整によって、VCLとOnline EWCを単一の柔軟な継続的学習フレームワークに統合できるか？
• RQ2 提案されたGVCLフレームワークは、既存の正則化ベースの継続的学習手法を上回る性能を達成できるか？
• RQ3 タスク固有のFiLM層は、変分継続的学習で観察される過剰なプルーニング病理を効果的に緩和できるか？
• RQ4 HAT や PathNet といった強力なベースラインと比較して、FiLM層を備えたGVCLは少数データ環境下でどのように性能を発揮するか？
• RQ5 FiLM層の追加により、継続的学習におけるモデルのキャリブレーション性能とトランスファー学習性能はどの程度向上するか？

主な発見

• GVCL-F（FiLM層付き）は、8つの混合視覚タスク全体で平均して、次善のベースラインより0.32%高い平均精度を達成し、一部のケースではHAT や PathNet より顕著に優れた性能を示した。
• F-MNISTおよびFacescrubタスクでは、個別学習と比較して、それぞれ5.05%および3.88%のフォワードトランスファー向上を達成した。
• GVCL-Fは期待キャリブレーション誤差（ECE）を著しく低減し、ベースラインより優れた不確実性推定性能を示した。
• FiLM層を追加した際、変分手法における性能向上が顕著に見られ、過剰なプルーニングを是正する有効性が裏付けられた。
• 少数データ環境下では、GVCL-Fは既存のベースラインを強く上回り、特にフォワードおよびバックワードトランスファー指標で顕著な優位性を示した。
• アブレーションスタディにより、GVCLの最適なβ値は0.5から1.0の間であると確認され、β=1.0が精度とキャリブレーションの両面で最良のバランスを達成した。