[論文レビュー] The Evolution of Out-of-Distribution Robustness Throughout Fine-Tuning

Anders Andreassen, Yasaman Bahri+2 more|arXiv (Cornell University)|Jun 30, 2021

Adversarial Robustness in Machine Learning参考文献 48被引用数 21

ひとこと要約

本稿では、微調整中の分布外（OOD）ロバストネスの進化を調査し、事前学習モデルが一時的な有効ロバストネス（ER）を示すことが明らかになった。このERは中盤の訓練でピークに達し、収束に達する頃には消失する。インディストリビューション（ID）の精度が向上する一方で、OODデータへの一般化能力を失うため、微調整における重大なトレードオフが生じており、現行の手法ではこれを解消できないことが示された。

ABSTRACT

Although machine learning models typically experience a drop in performance on out-of-distribution data, accuracies on in- versus out-of-distribution data are widely observed to follow a single linear trend when evaluated across a testbed of models. Models that are more accurate on the out-of-distribution data relative to this baseline exhibit "effective robustness" and are exceedingly rare. Identifying such models, and understanding their properties, is key to improving out-of-distribution performance. We conduct a thorough empirical investigation of effective robustness during fine-tuning and surprisingly find that models pre-trained on larger datasets exhibit effective robustness during training that vanishes at convergence. We study how properties of the data influence effective robustness, and we show that it increases with the larger size, more diversity, and higher example difficulty of the dataset. We also find that models that display effective robustness are able to correctly classify 10% of the examples that no other current testbed model gets correct. Finally, we discuss several strategies for scaling effective robustness to the high-accuracy regime to improve the out-of-distribution accuracy of state-of-the-art models.

研究の動機と目的

• 微調整プロセス全体における有効ロバストネス（ER）のダイナミクスを理解すること。
• なぜ事前学習モデルは一時的なERを示すが、ランダム初期化モデルはそうではないかを特定すること。
• データの性質（サイズ、多様性、例の難易度など）がERに与える影響を調査すること。
• リプレイバッファーや重み正則化などの戦略が、高ID精度を維持しながらも高ERを維持できるかを検証すること。
• ERをスケーリングすることで、最先端のOOD性能を達成できる可能性を探ること。

提案手法

• ImageNetおよびCIFAR-10でモデルを微調整する際のチェックポイントごとにERを実証的に追跡する。
• ERを、複数のモデルで観察されたID-OOD性能トレンドの線形関係からのずれとして定義する。
• CIFAR-10とImageNet間のマルチラベルマッピングを用いて、共有予測ヘッドを介した微調整を可能にする。
• CIFAR-10の微調整中にImageNetデータを用いたリプレイバッファを適用し、継続的学習を模擬する。
• 事前学習済みヘッド重みの保存を目的にL2正則化を導入し、そのERへの影響を評価する。
• ER曲線の形状を分析し、線形フィットの寄与と実際のずれに分解する。

実験結果

リサーチクエスチョン

• RQ1 なぜ事前学習モデルは微調整中に有効ロバストネスを示すが、収束に達すると失うのか？
• RQ2 データの性質（サイズ、多様性、例の難易度）は、有効ロバストネスの出現にどのように影響するか？
• RQ3 リプレイバッファーや重み正則化などの戦略が、高ID精度を維持しながらも高有効ロバストネスを維持できるか？
• RQ4 有効ロバストモデルの予測と標準モデルの予測の主な違いは何か？
• RQ5 なぜ高ERを維持しながら高ID精度を達成するモデルが極めて稀なのであろうか？

主な発見

• 事前学習モデルは微調整中に一時的な有効ロバストネスのピークを示すが、収束に達する頃にはその値がゼロにまで低下する。これは、ID精度が向上する一方で、OOD一般化能力が失われる現象である。
• 有効ロバストネスのピークは収束時ではなく、中程度の精度に達した段階で発生しており、IDとOOD性能の間には明確なトレードオフがあることが示唆される。
• 有効ロバストネスを持つモデルは、テストベッド内の他のいかなるモデルとも一致しない10%の例を正しく分類でき、独自の一般化能力を示している。
• 有効ロバストネスは、より大きな、より多様性のある、より難しい訓練データセットで向上する傾向にあり、データの質と多様性が鍵要因であると考えられる。
• リプレイバッファーや事前学習重み周辺のL2正則化は、高ID精度を維持するが、高有効ロバストネスを維持するには失敗する。
• ER曲線の形状は、ロジット空間における線形フィットの副産物である部分があるが、実際のフィットからのずれも訓練に伴い減少しており、OOD一般化能力の実際の喪失が確認されている。