[論文レビュー] Confidence Adaptive Regularization for Deep Learning with Noisy Labels

Yangdi Lu, Bo Yang+1 more|arXiv (Cornell University)|Aug 18, 2021

Machine Learning and Data Classification参考文献 53被引用数 7

ひとこと要約

本論文では、予測信頼度を推定するインジケータブランチを導入することで、誤りのあるラベルに対して深層学習のロバスト性を向上させる新規手法Confidence Adaptive Regularization (CAR)を提案する。この手法は信頼度に配慮した損失関数と補助正則化を用いて、誤ラベル化されたサンプルの記憶を抑制し、さまざまなノイズ設定下でCIFAR-10、CIFAR-100、WebVision、Clothing1Mで最先端の性能を達成している。

ABSTRACT

Recent studies on the memorization effects of deep neural networks on noisy labels show that the networks first fit the correctly-labeled training samples before memorizing the mislabeled samples. Motivated by this early-learning phenomenon, we propose a novel method to prevent memorization of the mislabeled samples. Unlike the existing approaches which use the model output to identify or ignore the mislabeled samples, we introduce an indicator branch to the original model and enable the model to produce a confidence value for each sample. The confidence values are incorporated in our loss function which is learned to assign large confidence values to correctly-labeled samples and small confidence values to mislabeled samples. We also propose an auxiliary regularization term to further improve the robustness of the model. To improve the performance, we gradually correct the noisy labels with a well-designed target estimation strategy. We provide the theoretical analysis and conduct the experiments on synthetic and real-world datasets, demonstrating that our approach achieves comparable results to the state-of-the-art methods.

研究の動機と目的

• 訓練中に誤ラベル化されたサンプルを深層ニューラルネットワークが記憶してしまう問題がモデルの一般化性能を低下させることに対処する。
• クリーンなサンプルが誤ラベル化されたものよりも先に学習されるという初期学習現象を活用し、ロバストな訓練を導く。
• 固定の損失補正やサンプル選択に依存せず、信頼度推定を用いて動的に誤ラベル化されたサンプルを特定・低重み化する手法を開発する。
• クリーンなサンプルとノイズのあるサンプルを明示的に分離する新しい信頼度適応損失と補助正則化を通じて、モデルのロバスト性を向上させる。
• クリーンラベルを必要とせず、訓練中にモデルの予測からターゲット確率を推定することで、効果的なラベル補正を可能にする。

提案手法

• 各入力サンプルの信頼度スコアを予測するインジケータブランチを主モデルに追加し、クリーンなサンプルと誤ラベル化されたサンプルを区別する。
• 正しいラベルが付与されたサンプルに対して高い信頼度、誤ラベル化されたサンプルに対して低い信頼度を促進する信頼度適応損失（CAL）を設計する。
• 誤ラベル化されたサンプルに対してさらにペナルティを与えるために、低信頼度と高い予測分散を促進する補助正則化項（CAR）を提案する。
• 訓練の初期段階でのロバスト性を向上させるために、モデルの予測から導かれるソフトプシードラベルにノイズのあるラベルを置き換える動的ターゲット推定戦略を実装する。
• プシードラベルのノイズを低減し、推定を安定化させるためにモーメンタムベースの移動平均を用いる。
• クロスエントロピー、CAL、CARを組み合わせた複合損失関数を用いてモデルを訓練し、ノイズレベルとデータセットの難易度に合わせてハイパーパrameterを調整する。

実験結果

リサーチクエスチョン

• RQ1 初期学習段階での信頼度推定が、ラベル品質の事前知識なしに誤ラベル化されたサンプルを効果的に特定・抑制できるか？
• RQ2 提案手法である信頼度適応正則化（CAR）は、高いラベルノイズ下での一般化性能において、既存のロバスト訓練手法と比べてどのように差をつけるか？
• RQ3 動的ターゲット推定は、ノイズのあるラベルを直接使用する場合や、時間的アンサンブルを用いる場合と比較して、モデル性能をどの程度向上させるか？
• RQ4 この手法はハイパーパrameterの選択に対してどの程度感受性を示し、多様なデータセットとノイズレベルで安定した性能を発揮するための設定は何か？
• RQ5 CARにおける補助正則化項は、誤りのあるラベルの影響を軽減する点で理論的および実験的に優位性を示すか？

主な発見

• CARは、40%の対称的ノイズ（93.49% ± 0.07の正確性）と80%の対称的ノイズ（38.24% ± 0.55の正確性）を伴うCIFAR-10で最先端または競争力のある性能を達成し、CEや他のベースラインを上回っている。
• 80%の対称的ノイズを伴うCIFAR-100では、CARは38.24%の正確性を達成し、ターゲット推定なしのCAR（31.33% ± 0.38）や時間的アンサンブル（10.28% ± 1.67）を著しく上回っている。
• 動的ターゲット推定を用いた手法は、ノイズのあるラベルを直接使用する場合よりも性能が向上しており、同じ戦略を用いたCEでもCIFAR-10（40%の非対称的ノイズ）で92.64%の正確性を達成したが、CARは依然として全体的にCEを上回っている。
• アブレーションスタディの結果、提案されたターゲット推定戦略を用いたCARは、すべてのデータセットとノイズタイプにおいて、時間的アンサンブルや推定なしの代替手法を一貫して上回っている。
• ハイパーパrameter感受性分析の結果、λ、β、E_c、α、δの小さな変動に対しては手法の性能が安定しており、パラメータが極端な値に設定された場合にのみ性能が低下することが判明した。
• 理論的分析により、CALとCARが誤ラベル化されたサンプルからの勾配を中和し、クリーンなサンプルからの勾配の優位性を維持することを確認した。これにより、安定でロバストな最適化が保証される。