[論文レビュー] Imbalanced Continual Learning with Partitioning Reservoir Sampling

Chris Dongjoo Kim, Jinseo Jeong+1 more|arXiv (Cornell University)|Sep 8, 2020

Domain Adaptation and Few-Shot Learning参考文献 88被引用数 9

ひとこと要約

本論文は、長尾データ分布下でのマルチラベル分類に向けた、再プレイに基づく継続的学習のための新規手法であるパーティショニングリザーバー・サンプリング（PRS）を提案する。クラス頻度に比例してメモリを割り当て、クラス頻度ごとに再プレイバッファをパーティション化することで、マイノリティ（テール）クラスの忘れらる性を顕著に低減し、新たに整備されたベンチマークCO COseqおよびNUS-WIDEseqにおいて、先行手法と比較して10.2%の忘れらる性低減を達成し、最先端の性能を示した。

ABSTRACT

Continual learning from a sequential stream of data is a crucial challenge for machine learning research. Most studies have been conducted on this topic under the single-label classification setting along with an assumption of balanced label distribution. This work expands this research horizon towards multi-label classification. In doing so, we identify unanticipated adversity innately existent in many multi-label datasets, the long-tailed distribution. We jointly address the two independently solved problems, Catastropic Forgetting and the long-tailed label distribution by first empirically showing a new challenge of destructive forgetting of the minority concepts on the tail. Then, we curate two benchmark datasets, COCOseq and NUS-WIDEseq, that allow the study of both intra- and inter-task imbalances. Lastly, we propose a new sampling strategy for replay-based approach named Partitioning Reservoir Sampling (PRS), which allows the model to maintain a balanced knowledge of both head and tail classes. We publicly release the dataset and the code in our project page.

研究の動機と目的

• 長尾データ分布下での継続的マルチラベル学習において、マイノリティ（テール）クラスにおける破壊的忘却という重要な課題に対処すること。
• 既存のマルチラベルデータセットを順序付きタスクの形式に拡張し、COCOseqおよびNUS-WIDEseqという順序付きベンチマークを整備することで、タスク内およびタスク間の不均衡の系統的分析を可能にすること。
• クラス頻度に基づいてメモリを戦略的に割り当てることで、ヘッドクラスとテールクラスの両方の知識のバランスを保つ再プレイベースの継続的学習手法を開発すること。
• 継続的学習における崩壊的忘却と長尾分布問題の両方を同時に克服すること。

提案手法

• クラス頻度に基づくパーティション（ヘッド、ミディアム、テール）に再プレイバッファを分割することで、各クラスグループの割合的代表性を保証するメモリ割り当て戦略として、パーティショニングリザーバー・サンプリング（PRS）を提案する。
• クラス頻度に応じて各パーティションにメモリ容量を割り当て、標準的なリザーバー・サンプリングにおける不足を補うために、ミディアムおよびマイノリティ（テール）クラスに多くのメモリを割り当てる。
• 各パーティション内で修正されたリザーバー・サンプリングアルゴリズムを用いて、各クラスグループの過去の経験をバランスよく代表するサンプルを維持する。
• タスクに依存しないトレーニングを可能にするために、共有出力ヘッドを採用し、推論時に明示的なタスクラベルを必要としない。
• 標準的な再プレイベースの継続的学習フレームワークにPRSを統合し、経験の再プレイと動的メモリ割り当てを組み合わせる。
• タスクの処理順序を変化させるスケジュールベースのトレーニングプロトコルを採用し、タスク順序の変動に対するロバストネスを評価する。

実験結果

リサーチクエスチョン

• RQ1 長尾クラス分布は、継続的マルチラベル学習における崩壊的忘却をどのように悪化させるか？
• RQ2 既存の再プレイベースおよび正則化ベースの継続的学習手法は、マイノリティ（テール）クラスのパフォーマンス維持にどの程度失敗するか？
• RQ3 マイノリティおよびミディアムクラスを優先するメモリ割り当て戦略は、マルチラベル継続的学習における長期的パフォーマンス向上と忘れらる性低減を実現できるか？
• RQ4 提案されたPRS手法は、新たに整備された順序付きマルチラベルベンチマーク上で、既存の再プレイおよび正則化ベースラインと比較してどのように差をつけるか？
• RQ5 PRSによるパフォーマンス向上は、異なるタスク順序スケジュールおよびデータセット設定に対しても一貫して成立するか？

主な発見

• NUS-WIDEseqベンチマークにおいて、PRSはEWCの32.8%の忘れらる性と比較して10.2%の忘れらる性低減を達成し、優れた安定性を示した。
• COCOseqでは、PRSが53.2%のC-F1スコアを達成し、忘れらる性は25.6%にとどまり、EWC（38.9% C-F1、32.8% 忘れらる性）およびExStream（49.7% C-F1、34.5% 忘れらる性）を上回った。
• 標準的なリザーバー・サンプリングと比較して、PRSはテールクラスの忘れらる性を30%以上低減し、COCOseqにおける最も頻度が低いクラスでは33.5%のF1スコアを達成した（CRSでは9.6%、GSSでは11.2%）。
• PRSは全タスクで高いパフォーマンスを維持しており、COCOseqにおける最初のタスクで61.9%のC-F1、最終タスクで53.2%のC-F1を達成し、過去の知識の強固な保持を示した。
• PRSは複数のタスク順序において一貫した向上を示し、NUS-WIDEseqにおいても最も挑戦的なスケジュール（3,1,0,2）下でも53.2%のC-F1と25.6%の忘れらる性を達成した。
• 提案されたベンチマークCOCOseqおよびNUS-WIDEseqは、標準的な継続的学習手法がマイノリティクラスで深刻なパフォーマンス低下を示すことを明らかにした。これにより、PRSのような新規手法の必要性が裏付けられた。