[論文レビュー] A Survey for Solving Mixed Integer Programming via Machine Learning

Jiayi Zhang, Chang Liu+4 more|arXiv (Cornell University)|Mar 6, 2022

Scheduling and Optimization Algorithms被引用数 13

ひとこと要約

本調査は、混合整数プログラミング（MIP）問題を解くための機械学習（ML）技術をレビューし、分枝限定法（branch-and-bound）およびヒューリスティックアルゴリズムとMLを統合することで、解の品質と効率を向上させることに焦点を当てる。学習ベースのノード選択、解の予測、ヒューリスティックの強化の手法を提示し、実用的なMIP応用において、計算コストを顕著に削減しながらも高品質な解を維持できることを示している。

ABSTRACT

This paper surveys the trend of leveraging machine learning to solve mixed integer programming (MIP) problems. Theoretically, MIP is an NP-hard problem, and most of the combinatorial optimization (CO) problems can be formulated as the MIP. Like other CO problems, the human-designed heuristic algorithms for MIP rely on good initial solutions and cost a lot of computational resources. Therefore, we consider applying machine learning methods to solve MIP, since ML-enhanced approaches can provide the solution based on the typical patterns from the historical data. In this paper, we first introduce the formulation and preliminaries of MIP and several traditional algorithms to solve MIP. Then, we advocate further promoting the different integration of machine learning and MIP and introducing related learning-based methods, which can be classified into exact algorithms and heuristic algorithms. Finally, we propose the outlook for learning-based MIP solvers, direction towards more combinatorial optimization problems beyond MIP, and also the mutual embrace of traditional solvers and machine learning components.

研究の動機と目的

• 混合整数プログラミング（MIP）問題を解くための機械学習応用について、包括的かつ最新のレビューを提供すること。
• 正確な手法（例：分枝限定法）とヒューリスティック手法とのML統合が、MIP解法の効率をどのように向上させるかを分析すること。
• 従来のMIPソルバーと学習ベースのコンponents（例：方策学習、早期停止）を統合するための主要な研究方向を特定すること。
• MIPLearn、Ecole、ORGymといった新興フレームワークが、エンドツーエンドの学習と強化学習ベースのMIP解法を可能にしていることを強調すること。
• 古典的MIPソルバーと機械学習コンponentsの相互統合を提唱し、組合せ最適化分野の前進を促進すること。

提案手法

• ML強化MIPソルバーを、分枝限定法における学習ベースのノード選択など、正確なアルゴリズム（例：学習ベースのノード選択）と、強化学習を用いたフィジビリティポンプのようなヒューリスティックアルゴリズムに分類する。
• 強化学習を用いて、フィジビリティポンプにおける解の探索をガイドし、近隣の妥当な点に依存するのではなく、次に取るべき行動を学習することで、解法を改善する。
• MIP問題の状態を表現するための深層学習モデル（MLPおよびCNN）を導入し、RLエージェントが制約行列と境界を入力として処理できるようにする。
• 模倣学習を用いて、分岐変数の選択や初期解の調整といったヒューリスティック行動を模倣するモデルを訓練する。
• Ecole や MIPLearn といったフレームワークを活用し、オープンソースのMIPソルバー（例：SCIP、CPLEX、GUROBI）とMLコンponentsを統合し、エンドツーエンドの学習を可能にする。
• MLを用いた早期停止技術を適用し、現在の解が十分に良いと判断された段階で分枝限定プロセスを終了することで、計算リソースを節約する。

実験結果

リサーチクエスチョン

• RQ1 機械学習を従来の分枝限定法に効果的に統合することで、MIP解法の効率をどのように向上させられるか？
• RQ2 強化学習は、MIP解法におけるフィジビリティポンプのようなヒューリスティック手法をどの程度向上させられるか？
• RQ3 MLモデルは、高品質な初期解や冗長な制約を予測することで、MIP問題のサイズを縮小し、解法を加速できるか？
• RQ4 学習ベースの手法を、問題インスタンスの特徴に基づいて正確な解法とヒューリスティック解法の間で選択するのにどのように活用できるか？
• RQ5 実務でML強化MIPソルバーを訓練・デプロイするうえで、最も有望なフレームワークやライブラリは何か？

主な発見

• 強化学習により、フィジビリティポンプにおけるヒューリスティックな選択（例：次に非整数解を選択する）を置き換えることで、収束が速くなり、解の品質も向上する。
• MIPの制約行列を画像として処理するCNNを用いることで、状態表現が改善され、MIP解法におけるRL方策学習が強化される。
• MLベースの早期停止は、解の品質を損なわずに分枝限定法における計算コストを顕著に削減する。
• KNNを用いた冗長な制約やアフィン部分空間の予測により、MIP問題のサイズが縮小され、ユニットコミットメントのような実世界の応用で解法時間が短縮される。
• MIPLearn や Ecole といったフレームワークは、ML強化MIPソルバーのエンドツーエンド学習を可能にし、スケーラブルで適応性のある最適化システムの強力な可能性を示している。
• CPLEX や GUROBI といった従来のソルバーとMLをハイブリッドアーキテクチャで統合することで、制約と目的関数の両方を同時に学習可能となり、微分可能な組合せ最適化が実現される。