[論文レビュー] Two-stage sample robust optimization

Dimitris Bertsimas, Shimrit Shtern+1 more|arXiv (Cornell University)|Jul 16, 2019

Risk and Portfolio Optimization参考文献 33被引用数 14

ひとこと要約

本稿では、タイプ-∞ Wassersteinのあいまいさ集合を伴う分布ロバスト最適化問題を近似するために、重複する線形意思決定ルールを用いた2段階のサンプルロバスト最適化手法を提案する。弱い条件下でも漸近的最適性を証明し、数値実験を通じて、計算的に実行可能であり、Out-of-sample性能において、最先端のデータ駆動型代替手法を著しく上回ることを示している。

ABSTRACT

We investigate a simple approximation scheme, based on overlapping linear decision rules, for solving data-driven two-stage distributionally robust optimization problems with the type-$\infty$ Wasserstein ambiguity set. Our main result establishes that this approximation scheme is asymptotically optimal for two-stage stochastic linear optimization problems; that is, under mild assumptions, the optimal cost and optimal first-stage decisions obtained by approximating the robust optimization problem converge to those of the underlying stochastic problem as the number of data points grows to infinity. These guarantees notably apply to two-stage stochastic problems that do not have relatively complete recourse, which arise frequently in applications. In this context, we show through numerical experiments that the approximation scheme is practically tractable and produces decisions which significantly outperform those obtained from state-of-the-art data-driven alternatives.

研究の動機と目的

• 限られたデータ下での2段階確率的最適化におけるサンプル平均近似（SAA）の限界、特に相対的完全回復が成り立たない場合の問題を解決すること。
• Wassersteinのあいまいさ集合を伴う2段階分布ロバスト最適化の計算的に実行可能な近似スキームを開発すること。
• 弱い確率的仮定の下で、提案手法の漸近的最適性に関する理論的保証を確立すること。
• 既存のデータ駆動型手法と比較して、第一段階意思決定が著しく優れたOut-of-sample性能を示すことを経験的に検証すること。

提案手法

• 本手法は、第二段階意思決定関数の近似に重複する線形意思決定ルールを用い、ロバスト最適化問題の解法を容易にする。
• 不確実性集合の重複領域における分(piecewise-linear)意思決定ルールの最適化を実行するマルチポリシー近似スキームを採用する。
• データ量の増加に伴い不確実性集合のサイズが縮小することを活用し、観測されるデータが増えるほど局所的意思決定ルールの精度が向上することを実現する。
• 定式化は線形計画問題として解かれるため、大規模データセットに対してもスケーラビリティと計算的実行可能性が保証される。
• ロバストネスパラメータは $ \epsilon_N = N^{-1/8} $ として設定され、データサイズ $ N $ の増加に伴い、ロバストネスと過剰な保守性のバランスが取られる。
• 相対的完全回復が成り立たない問題においても、妥当性と最適性の保証を維持できるように設計されている。

実験結果

リサーチクエスチョン

• RQ1 重複する線形意思決定ルールに基づく単純な近似スキームは、タイプ-∞ Wassersteinのあいまいさ集合を伴う2段階分布ロバスト最適化において、漸近的最適性を達成できるか？
• RQ2 データが限られた状況下で、本手法はSAAや他のデータ駆動型手法と比較して、Out-of-sample性能においてどのように差をつけるか？
• RQ3 相対的完全回復が成り立たない問題において、本手法はロバストネスの向上を実現しながらも、計算的実行可能性を維持できるか？
• RQ4 ロバストネスパラメータ $ \epsilon_N $ は、保守性とOut-of-sample性能のトレードオフにどのように影響を与えるか？
• RQ5 元の確率的問題が相対的完全回復を満たさない場合でも、近似の漸近的最適性を保証できるか？

主な発見

• 提案されたマルチポリシー近似スキームは漸近的最適性を有する：データ点数が増加するにつれ、最適コストおよび第一段階意思決定は真の確率的問題のそれと収束する。
• 本手法は、相対的完全回復が成り立たない問題においても、SAAや他のデータ駆動型代替手法をOut-of-sample性能において著しく上回る。
• 本手法の実行時間はデータサイズに比例して線形に増加し、大規模データセットに対しても計算的に実行可能であり、$ N = 512 $ の場合の平均実行時間は5秒未満で維持される。
• 本手法の予測誤差は常に5%から10%の間で安定しており、真のOut-of-sample性能の信頼性の高い上限を提供する。これに対してSAAは50–80%のケースで負の予測誤差を示した。
• データが豊富な場合には、本手法はSAAおよびMP Affineとほぼ同等のOut-of-sample性能を達成するが、データが限られた状況では著しく優れている。
• 本近似は、SAAが相対的完全回復が成り立たないために失敗する可能性があるすべてのテストケースにおいても、妥当性を維持している。