[論文レビュー] Estimate-Then-Optimize versus Integrated-Estimation-Optimization versus Sample Average Approximation: A Stochastic Dominance Perspective

Adam N. Elmachtoub, Henry Lam+2 more|arXiv (Cornell University)|Apr 13, 2023

Advanced Bandit Algorithms Research被引用数 4

ひとこと要約

この論文は、データ駆動型確率的最適化において、推定次に最適化（ETO）、統合的推定最適化（IEO）、および標本平均近似（SAA）を比較する。誤差の1次確率的優位性を用いて、モデルが適切に指定されておりデータが十分な場合、ETOはIEOを漸近的に支配し、IEOはSAAを支配することを示す。これは、モデルが不適切に指定されている場合の典型的な性能順序とは逆である。

ABSTRACT

In data-driven stochastic optimization, model parameters of the underlying distribution need to be estimated from data in addition to the optimization task. Recent literature considers integrating the estimation and optimization processes by selecting model parameters that lead to the best empirical objective performance. This integrated approach, which we call integrated-estimation-optimization (IEO), can be readily shown to outperform simple estimate-then-optimize (ETO) when the model is misspecified. In this paper, we show that a reverse behavior appears when the model class is well-specified and there is sufficient data. Specifically, for a general class of nonlinear stochastic optimization problems, we show that simple ETO outperforms IEO asymptotically when the model class covers the ground truth, in the strong sense of stochastic dominance of the regret. Namely, the entire distribution of the regret, not only its mean or other moments, is always better for ETO compared to IEO. Our results also apply to constrained, contextual optimization problems where the decision depends on observed features. Whenever applicable, we also demonstrate how standard sample average approximation (SAA) performs the worst when the model class is well-specified in terms of regret, and best when it is misspecified. Finally, we provide experimental results to support our theoretical comparisons and illustrate when our insights hold in finite-sample regimes and under various degrees of misspecification.

研究の動機と目的

• モデルが適切に指定された場合に、データ駆動型確率的最適化におけるETO、IEO、SAAを理論的に比較すること。
• モデルクラスに真の分布が含まれる場合に、IEOの計算コストが性能向上に見合うかどうかを調査すること。
• 最適解の質がモーメントを超えて評価されるよう、各手法の漸近的誤差分布を確率的優位性を用いて分析すること。
• より単純なETOが、特に文脈的・制約付き最適化において、より複雑なIEOを上回る条件を明らかにすること。
• 誤差分布レベルでのデータ駆動型最適化手法の比較に役立つ統計的枠組みを提示すること。

提案手法

• 平均や分散ではなく、誤差の分布全体を比較するために1次確率的優位性を用いる。
• 誤差を、真の分布下での真の最適解とデータ駆動型解との最適性ギャップとして分析する。
• モデルクラスに真の分布が含まれており、十分なデータが利用可能であるという仮定の下で漸近的分析を適用する。
• IEOの性能を最適化するように設計されているにもかかわらず、ETOが誤差分布においてIEOを確率的に支配する理論的条件を導出する。
• 制約付きおよび文脈的最適化問題へと結果を拡張し、制約の正則性条件および漸近正規性に関する追加仮定を要する。
• SAAをETOおよびIEOと比較し、モデルが適切に指定された場合にSAAが最も悪い性能を示すが、モデル不適合の場合は逆に最良となることを示す。

実験結果

リサーチクエスチョン

• RQ1 モデルが適切に指定された場合、誤差分布においてETOがIEOを確率的に支配する条件は何か？
• RQ2 モデルが適切に指定された場合と不適合の両方において、ETO、IEO、SAAの性能順位はどのように変化するか？
• RQ3 大標本かつモデルが適切に指定された状況において、統合的推定最適化（IEO）アプローチはETOに有意義な利点を提供するか？
• RQ4 モデルが適切に指定された場合に、誤差分布の観点からSAAはETOおよびIEOと比べてどのように評価されるか？
• RQ5 これらの誤差ベースの比較結果は、実務において計算が単純なETOとより複雑なIEOの間で意思決定にどのような意味を持つのか？

主な発見

• モデルクラスに真の分布が含まれており、データが十分な場合、ETOは誤差分布において漸近的にIEOを確率的に支配する。
• モデルが適切に指定された場合、IEOはSAAを確率的に支配する。これは、通常SAAが好まれる傾向にあるのとは逆の順序である。
• この支配関係は強く、ETOの誤差の累積分布関数全体がIEOよりも優れていることを意味し、すべての分位数においてより優れた一般化性能を示す。
• 標準的な正則性条件の下では、制約なしおよび制約付き・文脈的最適化問題の両方でこの支配関係が成立する。
• 有限標本では、中程度の不適合がある場合には理論的なETOのIEOに対する優位性が保たれるが、不適合が大きくなると崩れる。
• モデルが適切に指定された場合、SAAは誤差の観点で最も悪い性能を示すが、モデル不適合の場合は最適となる。これは根本的なトレードオフを示している。