[論文レビュー] On the Role of Dataset Quality and Heterogeneity in Model Confidence

Yuan Zhao, Jiasi Chen+1 more|arXiv (Cornell University)|Feb 23, 2020

Adversarial Robustness in Machine Learning参考文献 25被引用数 7

ひとこと要約

この論文は、データセットの品質と異質性が機械学習モデルの信頼度に与える影響を調査し、ラベルノイズが不確実性を引き起こす一方で、小規模な訓練データセットは過信を引き起こすことを明らかにした。クラスごとのキャリブレーションの不均衡を是正するため、著者らはクラスごとの温度スケーリング（CTS）を提案する。これは、特に少数派のクラスにおいても、標準的手法を上回る性能を示し、CIFARデータセットにおいて平均誤差および最悪ケース誤差の両指標で優れた結果を達成した。

ABSTRACT

Safety-critical applications require machine learning models that output accurate and calibrated probabilities. While uncalibrated deep networks are known to make over-confident predictions, it is unclear how model confidence is impacted by the variations in the data, such as label noise or class size. In this paper, we investigate the role of the dataset quality by studying the impact of dataset size and the label noise on the model confidence. We theoretically explain and experimentally demonstrate that, surprisingly, label noise in the training data leads to under-confident networks, while reduced dataset size leads to over-confident models. We then study the impact of dataset heterogeneity, where data quality varies across classes, on model confidence. We demonstrate that this leads to heterogenous confidence/accuracy behavior in the test data and is poorly handled by the standard calibration algorithms. To overcome this, we propose an intuitive heterogenous calibration technique and show that the proposed approach leads to improved calibration metrics (both average and worst-case errors) on the CIFAR datasets.

研究の動機と目的

• 訓練データの品質、特にラベルノイズとサンプルサイズが、深層学習分類器のモデル信頼度に与える影響を理解すること。
• クラスごとに異なるデータ品質が、モデルのキャリブレーションに与える影響、特にクラス別に異なったデータ品質が存在する場合の影響を調査すること。
• 温度スケーリングのようなグローバルキャリブレーション手法の限界、特にクラスごとの信頼度の不均衡に対処できない点を是正すること。
• すべてのクラスにわたる公平性とキャリブレーション性能を向上させるクラスごとのキャリブレーション手法を提案し、検証すること。
• 平均誤差および最悪ケース誤差の両指標を用いて、提案手法が標準的なキャリブレーション手法を上回ることを示すこと。

提案手法

• 著者らは、スライス単位の検証セットを用いて、各クラスごとに温度スケーリングを別々に適用するクラスごとの温度スケーリング（CTS）を導入する。
• 提案されたCTS手法の理論的検証サンプルの必要最小数（サンプル複雑度）の境界を導出することで、統計的信頼性を確保する。
• アプローチは、予測クラスごとに検証セットを分割し、各サブセットを個別に温度スケーリングでキャリブレーションすることを含む。
• 信頼度図とキャリブレーション誤差指標（期待キャリブレーション誤差（ECE）、max-ECE、Avg-ECE）を用いて、手法を評価する。
• 標準的な温度スケーリング（TS）とベクトルスケーリングを比較し、不均衡なデータセットやノイズのあるデータセットにおいても優れた性能を示すことを実証する。
• CIFAR-100を用いた実験的分析により、制御されたノイズとクラスサイズの不均衡を設定し、手法の有効性を検証する。

実験結果

リサーチクエスチョン

• RQ1 訓練データにラベルノイズが存在する場合、深層ニューラルネットワーク分類器の信頼度にどのような影響を与えるか？
• RQ2 訓練データセットのサイズが小さくなると、モデルの信頼度とキャリブレーションにどのような影響を与えるか？
• RQ3 ノイズレベルやサンプルサイズがクラスごとに異なるようなデータの異質性は、クラス別キャリブレーション性能にどのような影響を与えるか？
• RQ4 グローバルキャリブレーション手法（例：温度スケーリング）に比べ、クラスごとのキャリブレーション手法が公平性とキャリブレーション精度の両面で優れているか？
• RQ5 期待キャリブレーション誤差（ECE）、max-ECE、Avg-ECE などの異なるキャリブレーション誤差指標は、キャリブレーション手法の公平性とロバストネスを評価する上で果たす役割は何か？

主な発見

• 訓練データにラベルノイズが存在すると、通常の過信とは逆に、モデルは不確実性を示すようになる。
• 訓練データが少ない場合、精度が低いため過信の傾向が強まり、サンプリングレートが60％未満に下がるほど過信度が増加する。
• 標準的な温度スケーリング（TS）は、少数派クラスではキャリブレーション誤差を拡大する一方で、大規模クラスでは性能を向上させるため、不公平な処理が生じる。
• クラスごとの温度スケーリング（CTS）は、すべてのクラスにおいて一様にキャリブレーションを改善し、平均誤差および最悪ケース誤差の両方を低減する。
• すべてのサンプリングレートにおいて、CTSはmax-ECEの観点でTSを上回り、クラスごとの信頼度の不均衡に対する公平性に優れていることを示している。
• Avg-ECE指標は、CTSとTSの間で顕著な性能差を示しており、グローバルなECEはクラス別キャリブレーションの悪さを隠す可能性があるため、最悪ケース指標の重要性を裏付けている。