[論文レビュー] A Simple Class Decision Balancing for Incremental Learning.

Hongjoon Ahn, Taesup Moon|arXiv (Cornell University)|Mar 31, 2020

Domain Adaptation and Few-Shot Learning参考文献 20被引用数 9

ひとこと要約

この論文は、分離されたソフトマックス（SS）層と比率を保つ（RP）ミニバッチを用いて、微調整における分類スコアバイアスを是正する、シンプルで効果的なクラスインクリメンタルラーニング（CIL）の手法SS-ILを提案する。後処理を一切行わず、大規模ベンチマークで最先端の性能を達成しており、vanillaな微調整に比べて意思決定のバランスを著しく向上させるとともに、スコアバイアスを低減している。

ABSTRACT

Class incremental learning (CIL) problem, in which a learning agent continuously learns new classes from incrementally arriving training data batches, has gained much attention recently in AI and computer vision community due to both fundamental and practical perspectives of the problem. For mitigating the main difficulty of deep neural network(DNN)-based CIL, the catastrophic forgetting, recent work showed that a simple fine-tuning (FT) based schemes can outperform the earlier attempts of using knowledge distillation, particularly when a small-sized exemplar-memory for storing samples from the previously learned classes is allowed. The core limitation of the vanilla FT, however, is the severe classification score bias between the new and previously learned classes, and several state-of-the-art methods proposed to rectify the bias via additional post-processing of the scores. In this paper, we propose two simple modifications for the vanilla FT, separated softmax (SS) layer and ratio-preserving (RP) mini-batches for SGD updates. Our scheme, dubbed as SS-IL, is shown to give much more balanced class decisions, have much less biased scores, and outperform strong state-of-the-art baselines on several large-scale benchmark datasets, without any sophisticated post-processing of the scores. We also give several novel analyses our and baseline methods, confirming the effectiveness of our approach in CIL.

研究の動機と目的

• vanillaな微調整におけるクラスインクリメンタルラーニング（CIL）における深刻な分類スコアバイアスを是正すること。
• CIL手法における分類スコアの複雑な後処理の必要性を排除すること。
• 継続的学習のシナリオにおいて、新たに学習したクラスと以前に学習したクラスの間での意思決定のバランスを向上させること。
• 最小限のアーキテクチャ的・訓練手法の変更で、大規模ベンチマークで最先端の性能を達成すること。

提案手法

• 推論時に新規クラスと旧クラスの分類スコアを分離する、分離されたソフトマックス（SS）層を導入する。
• SGDの更新中に、訓練ステップ間でクラス分布の比率を一定に保つ比率を保つ（RP）ミニバッチを採用する。
• 標準的な微調整プロセスを変更し、SS層を適用することで、新規クラスによるスコアの優位性を防止する。
• 各ミニバッチにおける旧クラスと新クラスのサンプルの相対的比率を保つことで、バランスの取れた勾配更新を確保する。
• 過去のクラスのサンプルを格納する小さなエクジンプラメモリを用い、災難的忘却を防ぐ安定した学習を実現する。
• 追加の後処理や損失の再重み付けを一切行わず、アーキテクチャ的および訓練スキームの変更に依存する。

実験結果

リサーチクエスチョン

• RQ1 ソフトマックス層の単純な修正とミニバッチサンプリング戦略の改善が、クラスインクリメンタルラーニングにおける分類スコアバイアスを効果的に低減できるか。
• RQ2 提案されたSS-IL手法は、予測スコアの複雑な後処理を必要とせずに、強力なベースラインを上回る性能を発揮するか。
• RQ3 比率を保つミニバッチ戦略が、標準的な微調整に比べてどのようにより良い意思決定のバランスを実現するか。
• RQ4 SS-IL手法は、旧クラスと新クラスの両方でバランスの取れた性能を維持しつつ、災難的忘却をどの程度軽減できるか。
• RQ5 本手法は、インクリメンタルラーニングの各段階において、スコアのキャリブレーションと意思決定の一貫性の観点で、どのように他の手法と比較されるか。

主な発見

• 提案されたSS-IL手法は、分類スコアの後処理を一切行わず、複数の大規模ベンチマークで最先端の性能を達成している。
• SS-ILは、vanillaな微調整に比べて、新規クラスと以前に学習したクラスの間での分類スコアバイアスを顕著に低減している。
• 本手法は旧クラスと新クラスの両方で高い精度を維持しており、インクリメンタルラーニングの各段階における意思決定のバランスの向上を示している。
• 比率を保つミニバッチの使用により、最適化中に新規クラスによるスコアの優位性を抑える安定した訓練が可能になっている。
• 広範なアブレーションスタディにより、分離されたソフトマックスと比率を保つサンプリングの両方が、本手法の成功に不可欠であることが確認された。
• 最小限のアーキテクチャ的変更でさえ、標準的なCILベンチマークにおいて強力な最先端手法を上回る性能を発揮している。