[論文レビュー] Benders Cut Classification via Support Vector Machines for Solving Two-stage Stochastic Programs

Huiwen Jia, Siqian Shen|arXiv (Cornell University)|Jun 14, 2019

Supply Chain and Inventory Management参考文献 45被引用数 4

ひとこと要約

本稿では、サポートベクターマシン（SVM）を用いて、境界を著しく改善するか最適解でバインドする「最も価値のある」ベンダースカットのみを的確に特定・生成する学習強化型ベンダース分解法であるLearnBDを提案する。不必要なカットをフィルタリングすることで、緩和されたマスタープログラム（RMP）のサイズと解法時間を削減し、従来のベンダース分解法と比較して、容量制約付き施設配置問題およびマルチコンmodityネットワーク設計問題のインスタンスにおいて、より速い収束を達成する。

ABSTRACT

We consider Benders decomposition for solving two-stage stochastic programs with complete recourse based on finite samples of the uncertain parameters. We define the Benders cuts binding at the final optimal solution or the ones significantly improving bounds over iterations as valuable cuts. We propose a learning-enhanced Benders decomposition (LearnBD) algorithm, which adds a cut classification step in each iteration to selectively generate cuts that are more likely to be valuable cuts. The LearnBD algorithm includes two phases: (i) sampling cuts and collecting information from training problems and (ii) solving testing problems with a support vector machine (SVM) cut classifier. We run the LearnBD algorithm on instances of capacitated facility location and multi-commodity network design under uncertain demand. Our results show that SVM cut classifier works effectively for identifying valuable cuts, and the LearnBD algorithm reduces the total solving time of all instances for different problems with various sizes and complexities.

研究の動機と目的

• 蓄積されるカットの増加に伴い急速にサイズが増大する緩和マスタープログラム（RMP）の解法時間の増加という計算上のボトル neck を解消すること。
• 完全な補填を伴う2段階の確率的プログラムにおいて、境界を著しく改善するか最適解でバインドする「最も価値のある」ベンダースカットを特定・優先することで、解法効率を向上させること。
• 異なるサイズや構造を持つ複数の問題インスタンスに再利用可能な機械学習フレームワークを構築すること。
• SVMに基づくカット分類の有効性を検証し、最適性ギャップの制御を維持したまま、合計解法時間を短縮できるかを評価すること。

提案手法

• LearnBDアルゴリズムは2段階のプロセスを導入する：(i) 解析済みインスタンスからカットの特徴（カットの違反度、シナリオごとのカット数など）を抽出するための訓練データ収集、(ii) これらのデータを用いて価値のあるカットを予測するSVM分類器の学習。
• 特徴量の正規化には、問題固有のスケーリング要因を用いる：カット違反度には相対的総輸送コスト、カット頻度にはネットワークサイズ（|W|×|F|）を用い、異なるインスタンス間での再利用性を確保する。
• 各反復において、学習済みSVM分類器が価値のあるカットである可能性が高いと予測したカットのみをRMPに追加することで、RMPのサイズと解法時間を削減する。
• 連続的な不確実性を扱うために、サンプル平均近似（SAA）を用い、モンテカルロサンプリングにより有限個のシナリオを生成する。
• SVMを用いた教師あり学習とベンダース分解を統合し、境界を著しく改善するか最適解でバインドするカットを識別するように分類器を学習させる。
• 本フレームワークは転移学習をサポートする：例えば、cap62で学習した分類器を、cap42に適切な特徴量スケーリングを施して適用可能であり、再学習なしに効率性を向上できる。

実験結果

リサーチクエスチョン

• RQ1 SVMベースの分類器は、2段階の確率的プログラムにおいて、価値のあるカットと価値のないカットを効果的に区別できるか？
• RQ2 学習済み分類器を用いてカットをフィルタリングすることで、従来のベンダース分解法と比較して、RMPのサイズと解法時間が短縮されるか？
• RQ3 一つの問題インスタンスで学習したカット分類器を、サイズや構造的パrameterが異なる別のインスタンスに効果的に転送できるか？
• RQ4 容量制約付き施設配置問題およびマルチコンmodityネットワーク設計問題の多様なインスタンスにおいて、LearnBDアルゴリズムの性能はどのようにスケーリングするか？

主な発見

• 従来のベンダース分解法と比較して、テストされたインスタンス全体で平均18.5%の合計解法時間短縮を達成した。特に、cap62で学習した分類器をcap42に転送した場合、RMPの解法時間は29.5%短縮された。
• cap42で同じインスタンスに学習したSVMカット分類器を用いることで、4,304本のカットで0.01%の最適性ギャップを達成したのに対し、標準的なベンダースアプローチでは6,000本のカットを必要とした。
• cap62で学習した分類器をcap42に転送した場合、合計時間は12.5%短縮（97.96秒 vs. 111.96秒）され、解かれたRMPの数は30回から29回に減少した。
• 相対的輸送コストとネットワークサイズでスケーリングされた正規化済みカット特徴量の使用により、施設数や倉庫数が異なるインスタンス間でも効果的な転移学習が可能となった。
• SVM分類器を用いることで、1反復あたり追加されるカット数が6,000本から4,304本に顕著に削減され、RMPの解法時間が速くなった。
• すべてのテストインスタンスで最適性ギャップが0.01%未満を維持したため、性能向上が解法品質の劣化を伴わずに達成されたことが示された。