[論文レビュー] ProSelfLC: Progressive Self Label Correction for Training Robust Deep Neural Networks

Xinshao Wang, Hua Yang+3 more|arXiv (Cornell University)|May 7, 2020

Machine Learning and Data Classification参考文献 61被引用数 14

ひとこと要約

ProSelfLC は、トレーニングの進行状況と予測の信頼性（エントロピーの低さ）に基づいて、時間経過とともにモデルが予測するラベルに対する信頼度を段階的に高める、エンドツーエンドのプログレッシブな自己ラベル補正手法を提案する。これは、意味のある低エントロピーの目標を再定義し、エントロピー最小化を促進することで、クリーンデータおよびノイズのあるデータ設定下で、既存のラベル補正および正則化手法を上回る優れたロバストネスと一般化性能を示しており、CIFAR-100 および Clothing1M データセットで顕著な結果を達成している。

ABSTRACT

To train robust deep neural networks (DNNs), we systematically study several target modification approaches, which include output regularisation, self and non-self label correction (LC). Two key issues are discovered: (1) Self LC is the most appealing as it exploits its own knowledge and requires no extra models. However, how to automatically decide the trust degree of a learner as training goes is not well answered in the literature? (2) Some methods penalise while the others reward low-entropy predictions, prompting us to ask which one is better? To resolve the first issue, taking two well-accepted propositions--deep neural networks learn meaningful patterns before fitting noise [3] and minimum entropy regularisation principle [10]--we propose a novel end-to-end method named ProSelfLC, which is designed according to learning time and entropy. Specifically, given a data point, we progressively increase trust in its predicted label distribution versus its annotated one if a model has been trained for enough time and the prediction is of low entropy (high confidence). For the second issue, according to ProSelfLC, we empirically prove that it is better to redefine a meaningful low-entropy status and optimise the learner toward it. This serves as a defence of entropy minimisation. We demonstrate the effectiveness of ProSelfLC through extensive experiments in both clean and noisy settings. The source code is available at https://github.com/XinshaoAmosWang/ProSelfLC-CVPR2021. Keywords: entropy minimisation, maximum entropy, confidence penalty, self knowledge distillation, label correction, label noise, semi-supervised learning, output regularisation

研究の動機と目的

• 自己ラベル補正（Self LC）における適応的信頼メカニズムの欠如に取り組むこと。具体的には、既存手法がトレーニング全体を通して固定された信頼重み ε を使用している点を改善する。
• ラベル修正の曖昧さを解消すること：特にノイズのあるラベル下で、低エントロピー予測に対してペナルティを与えるのか、あるいは意味のある低エントロピー状態を報酬・最適化対象とするのか。
• 実験的に、意味のある「低エントロピー状態」を再定義し、それに最適化することでモデルの一般化性能が向上することを検証すること。
• 外部モデルや人為的介入を必要とせず、モデル自身の予測を利用して段階的にラベルを補正するエンドツーエンドで学習可能な手法を開発すること。

提案手法

• ProSelfLC は、トレーニングの経過と予測エントロピーに基づいて、自己ラベル補正のための信頼重み ε を動的に調整する。トレーニングが進むにつれて予測の信頼性が向上するにつれ、ε を段階的に増加させる。
• 2つの原則に依拠する：深層ネットワークはノイズにフィットする前に意味のあるパターンを学習するし、最小エントロピー正則化原理に従うことで、モデル予測への信頼度を段階的に高められる。
• プログレッシブな補正目標を (1−ε)q + εp として定義する。ここで q は one-hot ラベル、p はモデルの予測確率分布であり、ε はエポックとエントロピーに応じて時間経過とともに増加する。
• 従来のブートストラップや共同最適化法で用いられる固定値や段階的値とは異なり、ε に時間およびエントロピー依存の可学習スケジュールを導入する。
• エンドツーエンドで微分可能であり、計算オーバーヘッドは最小限に抑えられ、標準的なトレーニングパイプラインへのシームレスな統合を可能にする。
• 「低エントロピー」を、信頼性の高い予測を促進する最適化目標として再定義する。これは、信頼性ペナルティ法とは異なり、過剰な自信を罰するのではなく、正しい予測の信頼性を高めることを目的とする。

実験結果

リサーチクエスチョン

• RQ1 自己ラベル補正を、固定値または段階的信頼重みに依存するのではなく、トレーニングの進行に応じて適応的にするにはどうすればよいか？
• RQ2 信頼性ペナルティ法のように低エントロピー予測に対してペナルティを与えるよりも、意味のある低エントロピー状態を報酬・最適化対象とすることが好ましいのか？
• RQ3 外部モデルや人為的介入を一切不要としながら、モデル予測への段階的信頼度を高めることで、ラベルノイズに対するロバストネスを向上させられるか？
• RQ4 意味のある低エントロピー状態を再定義することで、ノイズのある環境下でも一般化性能と意味的構造の学習が向上するか？

主な発見

• CIFAR-100 において 40% の非対称ラベルノイズが存在する状況で、ProSelfLC は 73.4% のテスト精度を達成し、S-adaptation や Masking、MD-DYR-SH などすべてのベースラインを上回った。
• 実世界の Clothing1M データセット（約 38.5% のラベルノイズ）において、ProSelfLC は 73.4% のテスト精度を達成し、次に良い手法（72.6%）を 0.8 パーセンテージポイント上回った。
• ProSelfLC は、ベースラインと比較して誤ったラベルへのフィッティングを 40–50% 減少させ、特に意味的クラス誤りの補正をより効果的に行っていることが、動的ラベルフィッティングおよび補正統計から明らかになった。
• トレーニング全体を通じて最も低いエントロピーを維持しながらも、最高の一般化性能を達成しており、適切に目標を定めれば、信頼性が性能を損なわないことが証明された。
• 学習ダイナミクスの観察から、ProSelfLC はノイズの多いラベルに初期にフィットするのを回避し、特にノイズ率が高くなるほど、より優れた一般化性能を示した。
• アブレーションスタディの結果、高ノイズ率下ではより小さなバッチサイズ B がより良い性能を示し、ε と B がモデルのキャリブレーションおよびロバストネスに共同で影響することが確認された。