[論文レビュー] Improving Confidence Estimates for Unfamiliar Examples

Zhizhong Li, Derek Hoiem|arXiv (Cornell University)|Apr 9, 2018

Adversarial Robustness in Machine Learning参考文献 50被引用数 4

ひとこと要約

この論文は、訓練時に見られなかったが意味的に妥当なサンプルに対して深層学習モデルが過信した予測を行う問題に取り組み、キャリブレーション手法、アンサンブル、蒸留、ベイジアン手法を評価する。温度スケーリングを施したモデルのアンサンブルが、熟知したデータおよび不慣れなデータの両方の分布において、ラベル誤差、キャリブレーション誤差、尤度誤差を顕著に低減し、最も優れた性能を発揮する。

ABSTRACT

Intuitively, unfamiliarity should lead to lack of confidence. In reality, current algorithms often make highly confident yet wrong predictions when faced with relevant but unfamiliar examples. A classifier we trained to recognize gender is 12 times more likely to be wrong with a 99% confident prediction if presented with a subject from a different age group than those seen during training. In this paper, we compare and evaluate several methods to improve confidence estimates for unfamiliar and familiar samples. We propose a testing methodology of splitting unfamiliar and familiar samples by attribute (age, breed, subcategory) or sampling (similar datasets collected by different people at different times). We evaluate methods including confidence calibration, ensembles, distillation, and a Bayesian model and use several metrics to analyze label, likelihood, and calibration error. While all methods reduce over-confident errors, the ensemble of calibrated models performs best overall, and T-scaling performs best among the approaches with fastest inference. Our code is available at https://github.com/lizhitwo/ConfidenceEstimates . $\color{red}{ ext{Please see UPDATED ERRATA.}}$

研究の動機と目的

• 訓練時に見られなかったが意味的に妥当なテストサンプルに対して、深層ニューラルネットワークが極めて自信を持って誤った予測を行う問題を調査・解決すること。
• 属性（例：年齢、品種）やサンプリングのばらつき（例：異なるデータ収集時期）に基づいて、テストデータを熟知したサブセットと不慣れなサブセットに体系的に分割するための手法を構築・評価すること。
• 予測の信頼性を、分布外だが有効な入力に対して高めるために、信頼性キャリブレーション、アンサンブル、蒸留、ベイジアン不確実性推定の有効性を比較すること。
• i.i.d.の検証セット上で行う標準的なキャリブレーションが、不慣れなデータに対して過信した予測を生じさせることを示し、これに対処するための特別な評価およびチューニング戦略の必要性を明らかにすること。

提案手法

• 属性ベース（例：年齢、品種）またはサンプリングベース（例：異なるデータ収集期間）の分割を用いて、テストデータを熟知したサブセットと不慣れなサブセットに分割する、新しい評価フレームワークを提案する。
• 信頼性キャリブレーションのための温度スケーリング（Tスケーリング）を適用し、検証セット上で温度パラメータを最適化することで、キャリブレーションスコアと尤度スコアを向上させる。
• Tスケーリングされた分類器のアンサンブルを用いて、予測の分散を活用し、不確実性推定を向上させ、過信を低減する。
• 知識蒸留と生成的蒸留（G-蒸留）を導入し、アンサンブルの性能を1つのモデルに移譲する。推論コストを低く抑えつつ、正確性とキャリブレーションを維持することを目的とする。
• モンテカルロドロップアウト（MC-Dropout）を用いたベイジアンディープラーニングにより、予測の不確実性を推定し、他の手法と比較する。
• ラベル誤差、期待キャリブレーション誤差（ECE）、負の対数尤度（NLL）、ブライアスコアといった標準的な指標を用いて、熟知したデータおよび不慣れなデータの両方でモデルの性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 訓練時に見られなかったが意味的に妥当なサンプルに対して、深層ニューラルネットワークがどの程度の信頼性キャリブレーションと予測精度を示すか？
• RQ2 Tスケーリングなどの信頼性キャリブレーションは、ベースラインモデルと比較して、不慣れなデータにおける過信誤差をどの程度低減できるか？
• RQ3 アンサンブル手法、蒸留、ベイジアンモデルは、不慣れなサンプルの信頼性推定を向上させる点で、どのように比較されるか？
• RQ4 i.i.d.の検証セット上でキャリブレーションを最適化すると、不慣れなデータに対して過信した予測が生じるか？また、これは異なるサンプリングの検証セットを用いることで緩和可能か？
• RQ5 知識蒸留は、アンサンブルモデルの頑健性を1つのモデルに効果的に移譲できるか？ また、不慣れなデータにおいて、低キャリブレーション誤差および低ラベル誤差を維持できるか？

主な発見

• 不慣れなサンプルは熟知したサンプルと比較して顕著に高いキャリブレーション誤差とラベル誤差を示し、未確認の年齢グループに対しては、99％の自信で誤った予測を行う確率が12倍に上昇する。
• 温度スケーリングを施したモデルのアンサンブルは、すべてのデータセットおよび分割において、ラベル誤差、キャリブレーション誤差、NLL、ブライアスコアが最小となり、他のすべての手法を上回る性能を発揮する。
• Tスケーリング単体でも、熟知したデータおよび不慣れなデータの両方で尤度誤差とキャリブレーション誤差を低減し、推論コストが最小限の単一モデル手法の中で最も優れた性能を示す。
• 蒸留およびG-蒸留は、Tスケーリングを上回る一貫性のある性能向上を示さず、トレーニングの複雑性が増加しても顕著な性能向上が得られない。
• ベイジアン手法（Kendall et al.）は全体で2番目に優れた性能を示し、アンサンブルと比較してわずかに高いラベル誤差を示すが、キャリブレーションの改善は同等である。
• i.i.d.の検証セット上でキャリブレーションを最適化すると、不慣れなサンプルに対して信頼性が過大評価される傾向が生じる。これは、最適なキャリブレーションを達成するためには、分布のずれを含む検証セットが必要であることを示唆している。