[論文レビュー] Proximity-Informed Calibration for Deep Neural Networks

Miao Xiong, Ailin Deng+5 more|arXiv (Cornell University)|Jun 7, 2023

Adversarial Robustness in Machine Learning被引用数 4

ひとこと要約

本稿では、訓練データの近傍との類似度に基づいて信頼度スコアを調整することで、深層ニューラルネットワークにおける近接バイアスを軽減する、プラグアンドプレイなキャリブレーション手法ProCalを提案する。本手法は、近接性を考慮したキャリブレーション指標であるPIECEを提案し、長尾分布や分布シフトの状況を含む多様な設定において、一貫したキャリブレーションの向上を示しており、90%の統計的有意性を達成している。

ABSTRACT

Confidence calibration is central to providing accurate and interpretable uncertainty estimates, especially under safety-critical scenarios. However, we find that existing calibration algorithms often overlook the issue of *proximity bias*, a phenomenon where models tend to be more overconfident in low proximity data (i.e., data lying in the sparse region of the data distribution) compared to high proximity samples, and thus suffer from inconsistent miscalibration across different proximity samples. We examine the problem over 504 pretrained ImageNet models and observe that: 1) Proximity bias exists across a wide variety of model architectures and sizes; 2) Transformer-based models are relatively more susceptible to proximity bias than CNN-based models; 3) Proximity bias persists even after performing popular calibration algorithms like temperature scaling; 4) Models tend to overfit more heavily on low proximity samples than on high proximity samples. Motivated by the empirical findings, we propose ProCal, a plug-and-play algorithm with a theoretical guarantee to adjust sample confidence based on proximity. To further quantify the effectiveness of calibration algorithms in mitigating proximity bias, we introduce proximity-informed expected calibration error (PIECE) with theoretical analysis. We show that ProCal is effective in addressing proximity bias and improving calibration on balanced, long-tail, and distribution-shift settings under four metrics over various model architectures. We believe our findings on proximity bias will guide the development of *fairer and better-calibrated* models, contributing to the broader pursuit of trustworthy AI. Our code is available at: https://github.com/MiaoXiong2320/ProximityBias-Calibration.

研究の動機と目的

• 幅広いモデルの範囲において、近接度が低い（レアで分布外の）サンプルを誤分類する際にモデルが過信してしまう近接バイアスを特定・定量化すること。
• 温度スケーリングなどの従来のキャリブレーション手法が、近接度ごとの不正確なキャリブレーションを是正できないこと、すなわち、近接度に応じた一貫性のない不正確さを生じることを示すこと。
• 信頼度と近接度を同時にモデル化することで、不確実性推定を改善する、プラグアンドプレイなキャリブレーション手法ProCalを提案すること。
• 理論的裏付けのある指標であるPIECEを導入し、標準的なECEに比べて感受性が強く、近接バイアスに起因する不正確さを定量的に測定できること。

提案手法

• ProCalは、信頼度-近接度ペアの密度比推定にカーネル密度推定（KDE）を用い、正しく予測されたものと誤って予測されたものとを区別する。
• 近接度は、特徴空間におけるK番目の近傍（K=10–50）までの平均L2距離として計算され、異なるK値においても安定性が確認されている。
• 推論時、ProCalは正例と誤例のKDE比を用いて、クラス頻度で重み付けされた信頼度を再キャリブレーションする。
• 連続的および離散的入力タイプに対応するためのカスタマイズされた実装を採用し、幅広い展開を可能にする。
• 大規模データセットへのスケーラビリティを確保するため、効率的な近似近傍探索（例：IVFFlat）を活用する。
• 後処理によるキャリブレーションを採用しているため、任意の事前学習済みモデルと互換性があり、プラグアンドプレイである。

実験結果

リサーチクエスチョン

• RQ1 近接バイアスは、実世界の安全が求められる応用分野における多様なモデルアーキテクチャーやサイズにわたり存在するか？
• RQ2 温度スケーリングなどの標準的キャリブレーション手法は、低近接度サンプルにおける不正確さをどれほど是正できないか？
• RQ3 標準的なECEがキャンセレーション効果により見逃す不正確さを、近接性を考慮した指標PIECEは検出できるか？
• RQ4 ProCalは、バランス型、長尾型、分布シフト型のデータセットにおいて、近接バイアスをどれほど効果的に低減できるか？
• RQ5 Kや距離測定法などのハイパーパrameter（例：K, 距離測定法）は、最適な性能と頑健性をもたらすか？

主な発見

• 504種類のImageNet事前学習済みモデルにおいて近接バイアスが広く存在しており、TransformerベースのモデルはCNNよりも感受性が強い傾向を示した。
• 温度スケーリングを施しても、低近接度サンプルでは依然として顕著に過信度が高くなるため、標準的キャリブレーション手法では近接バイアスが是正されないことが示された。
• 低近接度サンプルは高近接度サンプルよりも過学習率が高く、稀なまたは分布外のケースにおける不正確さが悪化する。
• ProCalは、ImageNet、iNaturalist 2021、ImageNet-LT、MultiNLI、ImageNet-Cにおいて、ECE、PIECE、正確度、信頼性の4つの指標において一貫してキャリブレーションを改善した。
• 近接度計算にIVFFlatを用いることで、わずかに高い性能と優れた効率性が得られ、L2、コサイン、IVFPQなどの距離測定法間での差は最小限にとどまった。
• PIECEは理論的にECE以上であることが保証されており、等号が成り立つのは近接バイアスが標準ECEでキャンセレーション効果を引き起こさない場合に限る。