[論文レビュー] Risk Bounds and Calibration for a Smart Predict-then-Optimize Method

Heyuan Liu, Paul Grigas|arXiv (Cornell University)|Aug 19, 2021

Risk and Portfolio Optimization参考文献 21被引用数 5

ひとこと要約

本稿は、予測次に最適化フレームワークにおけるSPO+の代替損失関数について、最初のリスクバインディングと一様キャリブレーション結果を確立し、SPO+を最小化することで、高い確率で低い超過真のリスクが得られることを示している。多面体の実行可能領域に対しては$O(\theta^2)$のリスクバインディングを証明し、強い凸性を持つレベル集合に対しては$O(\theta)$に改善され、真のSPOリスクに対するSPO+の最初の標本複雑度バインディングが可能になった。

ABSTRACT

The predict-then-optimize framework is fundamental in practical stochastic decision-making problems: first predict unknown parameters of an optimization model, then solve the problem using the predicted values. A natural loss function in this setting is defined by measuring the decision error induced by the predicted parameters, which was named the Smart Predict-then-Optimize (SPO) loss by Elmachtoub and Grigas [arXiv:1710.08005]. Since the SPO loss is typically nonconvex and possibly discontinuous, Elmachtoub and Grigas [arXiv:1710.08005] introduced a convex surrogate, called the SPO+ loss, that importantly accounts for the underlying structure of the optimization model. In this paper, we greatly expand upon the consistency results for the SPO+ loss provided by Elmachtoub and Grigas [arXiv:1710.08005]. We develop risk bounds and uniform calibration results for the SPO+ loss relative to the SPO loss, which provide a quantitative way to transfer the excess surrogate risk to excess true risk. By combining our risk bounds with generalization bounds, we show that the empirical minimizer of the SPO+ loss achieves low excess true risk with high probability. We first demonstrate these results in the case when the feasible region of the underlying optimization problem is a polyhedron, and then we show that the results can be strengthened substantially when the feasible region is a level set of a strongly convex function. We perform experiments to empirically demonstrate the strength of the SPO+ surrogate, as compared to standard $\ell_1$ and squared $\ell_2$ prediction error losses, on portfolio allocation and cost-sensitive multi-class classification problems.

研究の動機と目的

• SPO+の代替損失関数に対して有限標本リスクバインディングが存在しないという問題を解決すること。これは、実用的導入において極めて重要であるが、Fisher一貫性を有するにもかかわらず。
• 超過代替損失（SPO+）と超過真の損失（SPO）の関係を定量化することで、最適化の保証を意思決定の質に翻訳可能にする。
• リスクバインディングと一般化バインディングを組み合わせることで、SPOリスクに対するSPO+の最初の標本複雑度バインディングを導出すること。
• 特に強い凸性を特徴とする実行可能領域の構造的性質を活用することで、理論的保証を強化すること。
• さまざまなノイズレベル下で、ポートフォリオ割り当ておよび多クラス分類において、標準的な損失（$\ell_1$、$\ell_2$）と比較してSPO+を実験的に検証すること。

提案手法

• 有界な多面体実行可能領域に対して、弱い分布的仮定のもとで、超過SPO+リスクと超過SPOリスクの関係を示すリスクバインディングを導出。この場合、$O(\theta^2)$のバインディングが得られる。
• 強い凸性を持つレベル集合の新たな連続性および最適性の性質を導入し、リスクバインディングを$O(\theta)$に改善。これにより、代替損失と真の損失の関係が著しく緊密化される。
• 一様キャリブレーション理論を適用し、代替損失のリスクを$\delta$以内に制御すれば、真の損失が$\epsilon$以内に収まることが保証され、明示的な関数的依存関係が得られる。
• 導出されたリスクバインディングと一般化バインディングを組み合わせることで、SPOリスクに対するSPO+の最初の標本複雑度バインディングを確立。
• コストセンシティブな多クラス分類において、単体を対象とするロジスティックバリア近似を用い、SPO+の微分可能な最適化を可能にする。
• 滑らかさおよび強い凸性の仮定のもとで、最適解写像の微分可能性を逆関数定理を用いて証明。理論的分析を支援する。

実験結果

リサーチクエスチョン

• RQ1 予測次に最適化フレームワークにおいて、超過真のSPOリスクを超過代替SPO+リスクの関数としてどのようにバインドできるか。
• RQ2 一般の多面体と比較して、実行可能領域が滑らかで強い凸性を持つ関数のレベル集合である場合、リスクバインディングにどのような改善が得られるか。
• RQ3 有限の訓練データを用いて、SPO+代替損失が高い確率で低い超過真のリスクを達成できるか。これにより、どのような標本複雑度が導かれるか。
• RQ4 実世界にインspiredされた問題において、SPO+損失は標準的な予測損失（$\ell_1$、$\ell_2$）と比較して意思決定の質においてどのように差をつけるか。
• RQ5 実行可能領域のどのような構造的性質が、SPO+代替損失のより緊密なリスクバインディングを可能にするか。

主な発見

• 有界な多面体実行可能領域に対して、SPO+リスクバインディングは$O(\theta^2)$である。これは、代替損失の超過リスクを$\theta$倍小さくすることで、真の超過リスクが$\theta^2$倍小さくなることを意味する。
• 実行可能領域が滑らかで強い凸性を持つ関数のレベル集合である場合、リスクバインディングは$O(\theta)$に改善され、より強い連続性および最適性の性質のおかげで著しく緊密化されている。
• 弱い分布的仮定のもとで、SPO+損失はSPO損失に対してFisher一貫性を有する。これにより、SPO+を最小化することで、極限において最適な意思決定が得られることを保証する。
• リスクバインディングと一般化バインディングを組み合わせることで、SPOリスクに対するSPO+の最初の標本複雑度バインディングを確立。これは、SPO+の経験的最小化が、高い確率で低い超過真のリスクを達成することを示している。
• ポートフォリオ割り当ておよびコストセンシティブ分類における実験結果から、SPO+は、単純なハイパーパramータチューニングのもとでも、標準的な$\ell_1$および$\ell_2$損失を上回る意思決定の質を示している。
• 強い凸性のもとで、逆関数定理を用いて最適解写像の微分可能性が確立され、強い凸性下でのSPO+の理論的分析を支援している。