[論文レビュー] Two Wrongs Don't Make a Right: Combating Confirmation Bias in Learning with Label Noise

Mingcai Chen, Hao Cheng+4 more|arXiv (Cornell University)|Dec 6, 2021

Machine Learning and Data Classification被引用数 7

ひとこと要約

本稿では、二段階のラベルノイズ学習パイプラインの限界を克服するため、信頼度推定によるノイズラベルと疑似ラベルを動的に組み合わせるハイブリッド手法であるロバストラベルリフォーミング（Robust LR）を提案する。二モデルの相互訓練フレームワークを用い、確認バイアスとラベルノイズを緩和する。CIFAR-10における合成ノイズと、Mini-WebVision や ANIMAL-10N といった実世界のデータセットにおいて、信頼度に配慮したアーリアゲーションに強い学習と、ラベルの共同最適化により誤り蓄積を低減することで、最先端の性能を達成する。

ABSTRACT

Noisy labels damage the performance of deep networks. For robust learning, a prominent two-stage pipeline alternates between eliminating possible incorrect labels and semi-supervised training. However, discarding part of noisy labels could result in a loss of information, especially when the corruption has a dependency on data, e.g., class-dependent or instance-dependent. Moreover, from the training dynamics of a representative two-stage method DivideMix, we identify the domination of confirmation bias: pseudo-labels fail to correct a considerable amount of noisy labels, and consequently, the errors accumulate. To sufficiently exploit information from noisy labels and mitigate wrong corrections, we propose Robust Label Refurbishment (Robust LR) a new hybrid method that integrates pseudo-labeling and confidence estimation techniques to refurbish noisy labels. We show that our method successfully alleviates the damage of both label noise and confirmation bias. As a result, it achieves state-of-the-art performance across datasets and noise types, namely CIFAR under different levels of synthetic noise and Mini-WebVision and ANIMAL-10N with real-world noise.

研究の動機と目的

• 二段階のラベルノイズ学習パイプラインの限界、特に有用なノイズラベルを無視し、確認バイアスに苦しむ問題を解決すること。
• 半教師あり学習において、誤った疑似ラベルが誤りを蓄積するのを防ぐために、確認バイアスを特定・緩和すること。
• 信頼度推定と疑似ラベル付けを用いて、ノイズラベルを動的に精錬することで、ノイズラベルを最大限に活用する手法を開発すること。
• 対称的、クラス依存的、インスタンス依存的なラベル汚染を含む多様なノイズタイプに対して、耐性を高めること。
• モデルの信頼度推定を用いて、実世界のデータセットにおける誤ったラベルの検出を正確に行えるようにすること。

提案手法

• Robust LR は、二つの学生ネットワークを用いた相互訓練フレームワークを採用し、お互いに疑似ラベルを生成し合い、予測を相互に精錬する。
• 各サンプルの信頼度をガウス・ミックス・モデル（GMM）を用いて訓練損失の分布をモデル化することで推定し、その信頼度に基づいてノイズラベルと疑似ラベルを動的凸結合する。
• 損失モデリングと最終訓練のための異なるデータオーグメンテーション戦略を採用することで、汎化性能と耐性を向上させる。
• 信頼度推定は、各サンプルの損失分布をモデル化するためのGMMを用い、信頼性の高い予測に高い重みを割り当てる。
• すべてのラベルを破棄せず、ノイズラベルに潜在する有用な情報を保持する。
• 誤り蓄積を低減するため、信頼度推定と疑似ラベル付けを統合的かつエンドツーエンドの学習プロセスに統合する。

実験結果

リサーチクエスチョン

• RQ1 確認バイアスは二段階のラベルノイズ学習パイプラインでどのように現れ、モデル性能にどのような影響を与えるか？
• RQ2 信頼度推定と疑似ラベル付けを用いてすべてのノイズラベルを保持するハイブリッド手法は、従来の二段階アプローチを上回る性能を発揮できるか？
• RQ3 二つのモデル間での相互訓練は、どの程度確認バイアスを低減し、ラベル精錬を改善できるか？
• RQ4 CIFAR-10 における実世界のノイズに対して、Robust LR は誤ってラベル付けされたサンプルをどの程度正確に検出できるか？
• RQ5 強力なデータオーグメンテーションと信頼度推定は、本手法の耐性にどのような役割を果たすか？

主な発見

• CIFAR-10 において90%の対称的ノイズが存在する状況で、Robust LR は96.4%のテスト精度を達成し、先行手法を上回る最先端の性能を示した。
• Mini-WebVision および ANIMAL-10N における実世界のノイズ環境でも、それぞれ95.7%および94.3%の精度を達成し、優れた汎化性能を示した。
• アブレーションスタディの結果、強力なデータオーグメンテーションを除去すると、精度は92.6%（最高）および72.7%（最低）に低下し、モデル収束におけるその重要性が示された。
• GMMを用いた信頼度推定はノイズレートを正しく推定し、90%のノイズ率下で78%のサンプルに高いノイズ確率を割り当てたが、真の値81%に非常に近い結果となった。
• 相互訓練を除去すると、精度は96.4%から95.6%（最高）および95.7%から94.4%（最低）に著しく低下し、確認バイアス低減におけるその役割が裏付けられた。
• Robust LR はCIFAR-10の学習セットにおいて50件の誤ってラベル付けされたまたは曖昧なサンプルを正しく同定した。特に、鳥と飛行機、犬と猫の難易度の高い分類誤り事例も含まれた。