[論文レビュー] Neur2SP: Neural Two-Stage Stochastic Programming

Justin Dumouchelle, Rahul Patel+2 more|arXiv (Cornell University)|May 20, 2022

Economic and Environmental Valuation被引用数 11

ひとこと要約

Neur2SPは、2段階の確率的計画問題（2SPs）を高速化するためのデータ駆動型で構造に依存しない手法を提案する。ReLUベースのニューラルネットワークを用いて期待される2段階コストを近似する。この代理モデルは混合整数計画問題（MIP）に埋め込まれ、効率的に解かれる。1.66秒未塔で高品質な解が得られ、シナリオ数が増加しても、広範な形（extensive form）に比べて数個のオーダーも速い。

ABSTRACT

Stochastic Programming is a powerful modeling framework for decision-making under uncertainty. In this work, we tackle two-stage stochastic programs (2SPs), the most widely used class of stochastic programming models. Solving 2SPs exactly requires optimizing over an expected value function that is computationally intractable. Having a mixed-integer linear program (MIP) or a nonlinear program (NLP) in the second stage further aggravates the intractability, even when specialized algorithms that exploit problem structure are employed. Finding high-quality (first-stage) solutions -- without leveraging problem structure -- can be crucial in such settings. We develop Neur2SP, a new method that approximates the expected value function via a neural network to obtain a surrogate model that can be solved more efficiently than the traditional extensive formulation approach. Neur2SP makes no assumptions about the problem structure, in particular about the second-stage problem, and can be implemented using an off-the-shelf MIP solver. Our extensive computational experiments on four benchmark 2SP problem classes with different structures (containing MIP and NLP second-stage problems) demonstrate the efficiency (time) and efficacy (solution quality) of Neur2SP. In under 1.66 seconds, Neur2SP finds high-quality solutions across all problems even as the number of scenarios increases, an ideal property that is difficult to have for traditional 2SP solution techniques. Namely, the most generic baseline method typically requires minutes to hours to find solutions of comparable quality.

研究の動機と目的

• 混合整数または非線形な2段階問題を伴う2段階の確率的計画問題（2SPs）を解く際の計算上の非実行可能性に対処すること。
• 問題固有の構造や分解アルゴリズムに依存しない汎用的なヒューリスティックを開発すること。
• 多数のシナリオを伴う2SPsの高速かつスケーラブルな解法を可能にすること。伝統的な手法（広範な形）では、シナリオ数が増えると実行不可能になる。
• 計算的に効率的で、多様な2SP問題クラスにわたって高い解の品質を維持する代理最適化モデルを提供すること。
• 深層学習を用いて期待される補償コストを近似する手法の実現可能性と優位性を示すこと。MIPソルバーとシームレスに統合可能である。

提案手法

• シミュレーションベースのサンプリングにより、(1段階意思決定, シナリオ集合, 期待される2段階コスト)のタプルのデータセットを生成する。
• 与えられた1段階意思決定とシナリオ集合に対して、期待される2段階コストを予測するReLUベースの順方向ニューラルネットワーク（NN-E または NN-P）を訓練する。
• ReLU活性化関数のMIP表現可能な定式化を用いて、訓練済みニューラルネットワークをMIPに埋め込む。これにより、代理問題の正確な最適化が可能になる。
• 得られた代理MIPを市販のMIPソルバーで解き、1段階意思決定を取得する。
• 2段階問題の構造を明示的に知らなくても、代理モデルを用いて1段階意思決定を指導致す。
• 2つのバリエーションを提案：NN-E（一度に全シナリオ集合を埋め込む）とNN-P（各シナリオごとにネットワークを埋め込む）。スケーラビリティとトレーニングのオーバーヘッドで異なる。

実験結果

リサーチクエスチョン

• RQ1 問題の構造に依存せずに、データ駆動型のニューラルネットワーク代理モデルが、2段階の確率的計画問題の解法時間を顕著に短縮できるか？
• RQ2 混合整数または非線形な2段階部分問題を伴う問題において、トレーニング時に見なかったより大きなシナリオ集合に対し、訓練済みのニューラルネットワークがどれほど一般化できるか？
• RQ3 代理モデルのNN-EとNN-Pバージョンの間で、解の品質と計算効率のトレードオフはどのようになるか？
• RQ4 多様な2SP問題クラスにおいて、Neur2SPは標準的な広範な形（EF）アプローチと比べて、解の品質と実行時間の両面で優れているか？
• RQ5 EFが計算的に非現実的になるほどシナリオ数が増加しても、代理モデルが高品質な解を維持できるか？

主な発見

• Neur2SPは、すべてのベンチマーク2SP問題を1.66秒未塔で解き、全問題インスタンスにおいて最小0.11秒、最大1.66秒の実行時間で実現した。
• NN-Eバージョンは、大多数の問題で広範な形（EF）の解と±5%以内の目的関数差を達成し、最大で13.78%、最小で-102%の乖離を示した。
• CFLP、SSLP、PPなどの大規模インスタンスでは、Neur2SPが両方の面（速度と解の品質）でEFを上回った。EFですら3時間経過してもNeur2SPの品質に追いつかなかった。
• NN-Pバージョンは、最大のINVPインスタンスでタイムアウトし、妥当な解が得られなかった。これは、各シナリオごとの埋め込みによるスケーラビリティの制限を示している。
• プーリング問題（PP）では、NN-EはEFから40%の目的関数差を示したが、これは優れた一般化能力を示している。一方、NN-Pは40%のギャップを示し、この分野では一般化がうまくいかなかった。
• NN-Eモデルは、最大100シナリオでトレーニングされたにもかかわらず、1000シナリオまでの大きなシナリオ集合に対しても良好に一般化し、シナリオ数が増えるほど性能が向上した。