[論文レビュー] Online Continual Learning on a Contaminated Data Stream with Blurry Task Boundaries

Jihwan Bang, Hyunseo Koh+4 more|arXiv (Cornell University)|Mar 29, 2022

Machine Learning and Data Classification被引用数 7

ひとこと要約

本稿では、クラスが重複しラベルが信頼性の低い、ノイズが多く汚染されたデータストリームと曇ったタスク境界を伴うオンライン継続的学習のための統合フレームワーク、PuriDivERを提案する。ノイズに配慮したサンプリングと準教師ありのロバストな学習により、エピソード的メモリにおける多様性と純度を適応的にバランスさせることで、CIFAR-10/100、mini-WebVision、Food-101Nにおいてノイズ比が変化する状況下でも最先端の性能を達成した。

ABSTRACT

Learning under a continuously changing data distribution with incorrect labels is a desirable real-world problem yet challenging. A large body of continual learning (CL) methods, however, assumes data streams with clean labels, and online learning scenarios under noisy data streams are yet underexplored. We consider a more practical CL task setup of an online learning from blurry data stream with corrupted labels, where existing CL methods struggle. To address the task, we first argue the importance of both diversity and purity of examples in the episodic memory of continual learning models. To balance diversity and purity in the episodic memory, we propose a novel strategy to manage and use the memory by a unified approach of label noise aware diverse sampling and robust learning with semi-supervised learning. Our empirical validations on four real-world or synthetic noise datasets (CIFAR10 and 100, mini-WebVision, and Food-101N) exhibit that our method significantly outperforms prior arts in this realistic and challenging continual learning scenario. Code and data splits are available in https://github.com/clovaai/puridiver.

研究の動機と目的

• 汚染されたデータストリームと曇ったタスク境界を伴い、クラス分布が重複しラベルがノイズ混じりであるという現実的ではあるが未だ十分に検討されていないオンライン継続的学習の課題に対処すること。
• 清澄なラベルと分離されたクラス集合を仮定する従来の継続的学習手法の限界を克服し、実世界の展開において現実的でない仮定を避けること。
• ラベルノイズ下でも、エピソード的メモリにおける多様性と純度の両方を同時に促進する統合的メモリ管理および学習戦略を設計すること。
• ノイズ比とタスク進行状況に応じて、多様性と純度のトレードオフを動的に調整する適応的バランス係数を設計すること。
• クラスの重複を伴うより現実的な継続的学習設定下で、実世界および合成されたノイズ付きデータセット上で手法を検証すること。

提案手法

• ノイズの多い例との類似度とラベルの純度の両方を組み込んだスコア関数を定義することで、多様性と純度の両方をバランスさせた統合的メモリサンプリング戦略を提案する。
• 訓練中にクリーニング済みおよび信頼性の低いラベルを両方とも未ラベルデータとして扱うことで、ノイズの多い例からの干渉を低減する、準教師あり学習を用いたロバストな学習方式を導入する。
• 多様性と純度のトレードオフを動的に調整する適応的バランス係数αを採用し、α ∈ (0, 0.5) として、高ノイズ条件下では純度を優先する。
• 低損失（純度）と高多様性に基づいて例を選択するメモリ構築プロセスを採用し、一貫性正則化を用いてメモリ使用時のロバスト性を強化する。
• クリーンラベルに対する教師あり学習と、信頼性の低い例に対する偽ラベル付けを統合した訓練目的を適用し、一般化性能とノイズ耐性を向上させる。
• エピソード的メモリをリプレイの目的だけでなく、一貫性に基づく正則化の目的にも活用し、モデル推論および訓練の両段階で多様性と純度を強化する。

実験結果

リサーチクエスチョン

• RQ1 オンライン継続的学習においてラベルノイズ下で、エピソード的メモリにおける多様性と純度のトレードオフがモデル性能に与える影響は何か？
• RQ2 ノイズが多く重複するタスク境界下でも、統合フレームワークがメモリサンプリングおよび使用における多様性と純度のバランスを効果的にとれるか？
• RQ3 適応的バランス係数αは、現実の継続的学習設定下で、ノイズ比が変化する状況下でも性能を向上させるか？
• RQ4 継続的学習において信頼性の低いラベルを学習する際、偽ラベル付けを用いた準教師あり学習が、どの程度のロバスト性を向上させるか？
• RQ5 提案手法は、実世界および合成されたノイズ付きデータセットにおいて、先行手法の組み合わせを上回る性能と効率性を達成するか？

主な発見

• PuriDivERは、対称的ラベルノイズ（SYM-40%）を伴うCIFAR-10で最先端の正確度を達成し、特に高ノイズ比下で顕著な優位性を示した。
• SYM-60%ノイズを伴うCIFAR-100では、PuriDivERが57.0%の正確度を達成し、次に優れた手法（GBSで55.3%）を大きく上回り、深刻なラベル汚染下でもロバストであることを示した。
• 適応的バランス係数戦略により、全ノイズレベルで一貫した性能向上が得られ、α値が時間経過とともに増加し、後続タスクでは多様性を優先するよう動的に調整された。
• PuriDivERは、訓練時間と正確度の良好なトレードオフを達成しており、SPRより時間コストが低く、RSVおよびGBSより正確度が優れているため、オンライン展開に適している。
• アブレーションスタディにより、多様性と純度の両方が重要であることが確認された。α > 0.5に設定すると、純度の低下を招く多様性の過剰な強調により性能が劣化した。
• Food-101N や mini-WebVision といった実世界のデータセットでも強力な一般化性能を示し、合成ベンチマークを超えた実用性を確認した。