[論文レビュー] Label Noise in Adversarial Training: A Novel Perspective to Study Robust Overfitting

Chengyu Dong, Liyuan Liu+1 more|arXiv (Cornell University)|Oct 7, 2021

Machine Learning and Data Classification被引用数 6

ひとこと要約

この論文は、アドバーシャルトレーニングにおけるラベルノイズが、頑健な過学習の主な原因であると特定し、摂動による意味的シフトにもかかわらず、アドバーシャル例がクリーンデータからのラベルを引き継ぐことによって生じることを明らかにする。本稿では、確率的分類器からの予測ラベル分布を用いた自己キャリブレーション手法を提案し、追加のハイパーパrameterを必要とせずに、モデルやデータセットにかかわらず頑健な精度を向上させる。

ABSTRACT

We show that label noise exists in adversarial training. Such label noise is due to the mismatch between the true label distribution of adversarial examples and the label inherited from clean examples - the true label distribution is distorted by the adversarial perturbation, but is neglected by the common practice that inherits labels from clean examples. Recognizing label noise sheds insights on the prevalence of robust overfitting in adversarial training, and explains its intriguing dependence on perturbation radius and data quality. Also, our label noise perspective aligns well with our observations of the epoch-wise double descent in adversarial training. Guided by our analyses, we proposed a method to automatically calibrate the label to address the label noise and robust overfitting. Our method achieves consistent performance improvements across various models and datasets without introducing new hyper-parameters or additional tuning.

研究の動機と目的

• アドバーシャルトレーニングにおける頑健な過学習の根本的原因を解明すること。これは、広く観察されてはいるが、依然として十分に理解されていない。
• 摂動によって引き起こされる意味的シフトのため、クリーン例とアドバーシャル例の間でラベル分布が不一致になることによって、ラベルノイズが生じることを同定すること。
• ラベルノイズの観点から、摂動半径とデータ品質が頑健な過学習に与える影響を説明すること。
• アドバーシャル例のラベルを自動的にキャリブレーションする手法を提案し、ラベルノイズを低減し、頑健な過学習を緩和すること。
• 本手法の有効性を、新しいハイパーパrameterを導入せずに、多様なモデル、データセット、頑健性評価指標を用いて検証すること。

提案手法

• 本手法は、アドバーシャルに訓練された確率的分類器の予測ラベル分布を、アドバーシャル例のより良いラベルとして用いる。これは、高い確率で真のラベル分布を近似する。
• 信頼度キャリブレーション技術にインspiredされ、温度スケーリングと補間を適用して、さらにラベルノイズを低減する。
• キャリブレーション戦略は、ラベルノイズを最小化する最適なパラメータを自動的に決定するため、手動のチューニングを不要にする。
• 本手法は現代の一般化理論に裏打ちされており、アドバーシャルトレーニングで観察されるエポック単位のダブルデセントと整合する。
• 知識蒸留の原則を統合しているが、スケーリングおよび補間パラメータの選択を自動化することで、ノイズ低減を最大化する。
• モデルアーキテクチャの変更や新しいハイパーパrameterの追加なしに、アドバーシャルトレーニング中に本手法を適用する。

実験結果

リサーチクエスチョン

• RQ1 なぜアドバーシャルトレーニングにおいて頑健な過学習が生じるのか。その背後にある要因は何か。
• RQ2 摂動半径は、頑健な過学習の深刻さにどのように影響するのか。これはラベルノイズによって説明可能か。
• RQ3 なぜデータ品質が頑健な過学習において重要な要因となるのか。ラベルノイズはこの依存関係をどのように媒介するのか。
• RQ4 アドバーシャルトレーニングにおけるエポック単位のダブルデセント現象は、ラベルノイズに起因するものだろうか。
• RQ5 アドバーシャル例のラベルを自動的にキャリブレーションすることで、ノイズを低減し、頑健な一般化を向上させることは可能だろうか。

主な発見

• アドバーシャルトレーニングにおけるラベルノイズは、摂動による意味的歪みのため、アドバーシャル例の真のラベル分布と、クリーンデータからのラベルの継承との不一致に起因する。
• 提案されたラベルキャリブレーション手法は、複数のモデル（例：WRN-28-5）およびデータセット（例：CIFAR-10）において、新しいハイパーパラメータを導入せずに、一貫して頑健な精度を向上させる。
• 本手法は、ラベルノイズによって引き起こされる分散の増加を緩和することで、頑健な過学習を低減し、一般化におけるバイアス・バリアンストレードオフと整合する。
• アドバーシャルトレーニングではエポック単位のダブルデセントが観察され、大規模なモデルでは1,000エポック以降に頑健なテスト誤差が再び低下する。これは、ラベルノイズに起因する一般化ダイナミクスと整合的である。
• 本手法の性能は、モデルサイズにかかわらず安定している：小規模モデルでは誤差が単調に減少し、中規模モデルではU字型の曲線を示し、大規模モデルではダブルデセントを示す。これらすべてがラベルノイズによって説明可能である。
• アドバーシャルに訓練されたモデルからの予測確率を用いたデータ品質推定により、高品質なデータはラベルノイズの低減とより良い頑健性と相関していることが明らかになった。