[論文レビュー] Individual Calibration with Randomized Forecasting

Shengjia Zhao, Tengyu Ma+1 more|arXiv (Cornell University)|Jun 18, 2020

Explainable Artificial Intelligence (XAI)被引用数 14

ひとこと要約

この論文は、回帰における個別キャリブレーションを達成するための確率的予測手法を提案する。各予測が確率的変数として扱われることで、サブグループにおける系統的キャリブレーション誤差が排除される。新たな目的関数を用いて個別キャリブレーションを強制しつつ鋭さをバランスさせることで、保護群の事前知識がなくても、敵対的分布シフト下でも優れた公平性と意思決定性能を達成する。

ABSTRACT

Machine learning applications often require calibrated predictions, e.g. a 90\% credible interval should contain the true outcome 90\% of the times. However, typical definitions of calibration only require this to hold on average, and offer no guarantees on predictions made on individual samples. Thus, predictions can be systematically over or under confident on certain subgroups, leading to issues of fairness and potential vulnerabilities. We show that calibration for individual samples is possible in the regression setup if the predictions are randomized, i.e. outputting randomized credible intervals. Randomization removes systematic bias by trading off bias with variance. We design a training objective to enforce individual calibration and use it to train randomized regression functions. The resulting models are more calibrated for arbitrarily chosen subgroups of the data, and can achieve higher utility in decision making against adversaries that exploit miscalibrated predictions.

研究の動機と目的

• 機械学習における平均キャリブレーションの限界、特に公平性が重要な応用分野でサブグループにおける系統的キャリブレーション誤差を引き起こす可能性があることに対処すること。
• サブグループが不明または観測不能であっても、個々のデータサンプルにおけるキャリブレーションを保証する手法を開発すること。
• 個別キャリブレーションを強制しつつ予測の鋭さを維持する訓練目的関数を設計すること。
• 敵対的分布シフト下での公平性および意思決定性能の評価を行うこと。
• ランダム化が、決定的予測器が失敗する状況においても個別キャリブレーションを可能にすることを示すこと。

提案手法

• 平均キャリブレーションやグループキャリブレーションよりも強い概念として、個別キャリブレーションを導入し、各個別サンプルに対して予測された分位点が、提示された確率で正確であることを要件とする。
• 入力ごとに予測累積分布関数（CDF）が単位区間上で一様分布になるように保証することで、個別キャリブレーションを強制する訓練目的関数を提案する。
• 入力とランダムシードに条件づけられた確率的変数としてのCDFを持つ、確率的回帰モデルを用いる。予測出力はランダムな信頼区間を出力する。
• 個別キャリブレーション目的関数と鋭さ目的関数（例：対数尤度）を組み合わせ、キャリブレーションと精度のパレート最適なトレードオフを達成する。
• 確率的順伝播を用いた深層ニューラルネットワークを用いてランダム化予測器を実装し、エンドツーエンドの訓練を可能にする。
• 理論的保証として、個別キャリブレーションが、特に分布シフト下で平均キャリブレーションよりも強い被覆性保証を示すことを示す。

実験結果

リサーチクエスチョン

• RQ1 サブグループが不明または観測不能であっても、確率的予測を用いることで回帰における個別キャリブレーションを達成できるか？
• RQ2 保護群が事前に分かっていない状況下で、個別キャリブレーションが信用リスク予測などの応用分野における公平性をどのように向上させるか？
• RQ3 データ分布が敵対的にシフトする状況下で、個別キャリブレーションが意思決定性能に与える影響は何か？
• RQ4 実世界のタスクにおいて、確率的予測器は決定的モデルよりも優れたキャリブレーションと利便性を達成できるか？
• RQ5 個別キャリブレーション、グループキャリブレーション、平均キャリブレーションの理論的関係は何か？

主な発見

• 提案手法は、予測出力をランダム化することで、観測不能または計算不能なサブグループを含むすべてのサブグループにおける系統的キャリブレーション誤差を排除し、回帰における個別キャリブレーションを達成する。
• UCIの犯罪予測タスクにおいて、訓練時にグループラベルを必要としない個別キャリブレーション予測器は、保護群におけるキャリブレーション誤差を顕著に低減した。
• 銀行とリスク志向の顧客が参加するシミュレーションゲームでは、敵対的分布シフト下で個別キャリブレーション予測器を用いた銀行が、平均キャリブレーションモデルよりも低い意思決定損失を被った。
• 理論的分析により、個別キャリブレーションは、特にデータ分布が変化する状況下で、平均キャリブレーションよりも強い被覆保証を示すことが示された。
• この手法は深層ニューラルネットワークと互換性があり、個別キャリブレーションと鋭さのバランスを取る微分可能な目的関数を用いてエンドツーエンドで訓練可能である。
• ランダム化により、一般条件下で決定的個別キャリブレーションが不可能であることが示された（命題1）ため、決定的予測器が失敗する状況でも個別キャリブレーションが可能になる。