[論文レビュー] Randomized Progressive Hedging methods for Multi-stage Stochastic Programming

Gilles Bareilles, Yassine Laguel+3 more|arXiv (Cornell University)|Sep 25, 2020

Risk and Portfolio Optimization参考文献 25被引用数 17

ひとこと要約

本稿では、複数段階の確率的プログラミングにおけるプログレッシブヘッジイング（Progressive Hedging）のランダム化バージョンを導入し、各反復で全シナリオを待つ必要がなくなるように、部分問題を段階的に解く手法を提案する。単調作用素へのランダム化固定点法を活用することで、並列的かつ非同期的な計算が可能となり、異種コンピューティング環境下での大規模問題における収束を著しく高速化する。

ABSTRACT

Progressive Hedging is a popular decomposition algorithm for solving multi-stage stochastic optimization problems. A computational bottleneck of this algorithm is that all scenario subproblems have to be solved at each iteration. In this paper, we introduce randomized versions of the Progressive Hedging algorithm able to produce new iterates as soon as a single scenario subproblem is solved. Building on the relation between Progressive Hedging and monotone operators, we leverage recent results on randomized fixed point methods to derive and analyze the proposed methods. Finally, we release the corresponding code as an easy-to-use Julia toolbox and report computational experiments showing the practical interest of randomized algorithms, notably in a parallel context. Throughout the paper, we pay a special attention to presentation, stressing main ideas, avoiding extra-technicalities, in order to make the randomized methods accessible to a broad audience in the Operations Research community.

研究の動機と目的

• 各反復で全シナリオの部分問題を同期的に解く必要があるプログレッシブヘッジイングにおける計算ボトル neck を解消すること、特に大規模な複数段階確率的計画問題において。
• 作業者の速度が異なる、または通信が不安定な分散環境や異種コンピューティング環境における同期遅延を克服すること。
• 収束保証を維持しつつ、実用的効率性を向上させる、アクセスしやすく理論的裏付けのあるランダム化プログレッシブヘッジイングの変種を開発すること。
• グローバルな同期と部分問題の解法を分離することで、効率的な並列的および非同期的実装を可能にすること。
• 運用研究コミュニティが実世界の確率的最適化問題を解くために採用しやすい、ユーザーフレンドリーなJuliaツールボックスを提供すること。

提案手法

• プログレッシブヘッジイングを単調作用素への固定点反復に再定式化し、ランダム化固定点法の適用を可能にする。
• 一時的シナリオ部分問題の解法後にのみ反復を更新するための、ランダム化された部分問題選択戦略（一様サンプリングとp-サンプリング：目的関数におけるシナリオの重要性に基づく）を導入する。
• ランダム化反復更新を用いて、全シナリオの処理を待たずに新たな反復を生成し、同期のオーバーヘッドを低減する。
• 単調作用素へのランダム化手法に関する理論的結果を活用し、弱い仮定の下での収束を確立する。
• 2つのバージョンを実装：並列ランダム化プログレッシブヘッジイング（同期的）と非同期ランダム化プログレッシブヘッジイング（遅延更新を許容）。
• 適応的ステップサイズルールを統合し、実用的なチューニング戦略を提供するが、理論的ステップサイズは実際には過剰に慎重になりがちである。

実験結果

リサーチクエスチョン

• RQ1 分散コンピューティング環境において、プログレッシブヘッジイングの部分問題選択をランダム化することで、同期のオーバーヘッドを低減しつつ収束を維持できるか？
• RQ2 逐次的および並列的実行下で、ランダム化バージョンと標準プログレッシブヘッジイングとの収束速度および解の品質にどのような差が生じるか？
• RQ3 大規模な確率的計画問題において、シナリオのサンプリング戦略（一様サンプリング対p-サンプリング）が部分最適性および妥当性ギャップに与える影響はいかほどか？
• RQ4 非同期ランダム化プログレッシブヘッジイングは、異種または不安定なコンピューティング環境下で、スループットとスケーラビリティをどの程度向上できるか？
• RQ5 運用研究の応用分野における広範な採用を支援できる、実用的で使いやすいランダム化プログレッシブヘッジイングの実装を開発できるか？

主な発見

• 一様サンプリングを用いたランダム化プログレッシブヘッジイングは、標準プログレッシブヘッジイングと同等の部分最適性および妥当性ギャップを達成するが、単位時間あたりの反復回数が著しく増加する。
• p-サンプリングバージョンは部分最適性をより速く低下させるが、目的関数の重みが高いシナリオを優先するため、より大きな妥当性ギャップを示す。
• 7人のワーカーを用いた並列環境では、並列ランダム化プログレッシブヘッジイングは、逐次的手法の1.5倍の部分問題を処理し、精度 $10^{-8}$ への収束が速い。
• 非同期ランダム化プログレッシブヘッジイングは、逐次的手法の4倍の部分問題を処理し、通信ボトル neck を効果的に解消する。
• 最大遅延に基づく理論的ステップサイズは過剰に慎重であり、実際にはユニットステップサイズがより良い性能を示すことが多いが、耐性を高めるためのチューニングが推奨される。
• 提案されたJuliaツールボックスにより、効率的なデプロイが可能であり、逐次的および並列的コンピューティング環境の両方で実用的利点を示している。