[論文レビュー] Can You Trust This Prediction? Auditing Pointwise Reliability After Learning

Peter Schulam, Suchi Saria|arXiv (Cornell University)|Jan 2, 2019

Adversarial Robustness in Machine Learning参考文献 51被引用数 37

ひとこと要約

この論文は Resampling Uncertainty Estimation (RUE) を導入します。勾配とヘッセ行列情報を用いてブートストラップ様のリサンプリングを近似することにより、訓練後の各予測の信頼性を定量化する監査手法です。RUE は複数のポストホック手法よりも不正確な予測を効果的に検出し、訓練手順の変更を必要とせずに競争力のある予測分布を生み出します。

ABSTRACT

To use machine learning in high stakes applications (e.g. medicine), we need tools for building confidence in the system and evaluating whether it is reliable. Methods to improve model reliability often require new learning algorithms (e.g. using Bayesian inference to obtain uncertainty estimates). An alternative is to audit a model after it is trained. In this paper, we describe resampling uncertainty estimation (RUE), an algorithm to audit the pointwise reliability of predictions. Intuitively, RUE estimates the amount that a prediction would change if the model had been fit on different training data. The algorithm uses the gradient and Hessian of the model's loss function to create an ensemble of predictions. Experimentally, we show that RUE more effectively detects inaccurate predictions than existing tools for auditing reliability subsequent to training. We also show that RUE can create predictive distributions that are competitive with state-of-the-art methods like Monte Carlo dropout, probabilistic backpropagation, and deep ensembles, but does not depend on specific algorithms at train-time like these methods do.

研究の動機と目的

• 高リスクな ML アプリケーションにおける従来の held-out エラーメトリクスを超えた信頼性ツールの必要性を動機づける。
• 学習後の監査手法として RUE を導入し、再訓練なしで予測ごとの不確実性を推定する。
• モデル依存の類似性指標を用いて RUE が密度と局所適合信頼性基準と整合することを示す。
• 誤予測の検出と競争力のある予測分布を生み出す RUE の有効性を示す。

提案手法

• ブートストラップ様の手法で生成されたパラメータのアンサンブルから予測をサンプリングして各テスト入力の不確実性スコアを計算する。
• 訓練損失の勾配とヘッセ行列を用いてブートストラップ重みから更新後のパラメータへの近似マップを形成する (A = H̃^{-1}L)。
• multinomial 分布からブートストラップ様の重みベクトル w を抽出し、θ* = θ̂ − A(w − w0) を作成する。
• 各 θ* でテスト入力を予測してアンサンブルを形成し、列方向の予測分散を不確実性スコア σ̂_RUE^2(x) として算出する。
• ヘシアンを λI で減衰させて可逆性を保証し、ブートストラップ、ラプラス近似、ロバスト統計との関連を論じる。
• σ̂_RUE^2(x) を、勾配と曲率による入力類似性をエンコードするモデル依存のカーネル k_RUE へ関連付ける。

実験結果

リサーチクエスチョン

• RQ1 ポストトレーニングの監査は、トレーニングプロセスを変更せずに、予測の点ごとの信頼性を明らかにできるか。
• RQ2 RUE ベースの不確実性スコアは、既存のポストホック手法（Laplace、KDE、Bootstrap SGD）と比較して誤った予測の検出にどの程度効果的か。
• RQ3 RUE は不確実性目的で訓練された統合的な不確実性手法と競合する予測分布を生成できるか。
• RQ4 RUE とブートストラップ、およびロバスト統計の理論的な結びつきは何か、そしてそれらは経験的にどのように現れるか。

主な発見

• RUE は Laplace、KDE、Bootstrap SGD より多くのデータセットと誤差閾値で不正確な予測をより効果的に検出する。
• 訓練手順を変更せずとも、最先端の統合手法と競合する予測分布を生成できる。
• RUE の不確実性スコアは、モデル依存の内積を介して密度と局所適合基準を実装し、ユークリッド距離ベースのアプローチより解釈性を高める。
• RUE は Bayesian やアンサンブル手法に必要なトレインタイムのアルゴリズム依存性を避けつつ、標準的な訓練パイプラインと組み合わせて実用的な監査ツールを提供する。
• 本論文は、ヘシアンベクトル積、ダンピング、近似の可能性など、実運用を可能にするスケーラビリティの考慮事項と実践的戦略を議論する。