[論文レビュー] Enhancing Column Generation by a Machine-Learning-Based Pricing Heuristic for Graph Coloring

Yunzhuang Shen, Yuan Sun+3 more|arXiv (Cornell University)|Dec 8, 2021

Scheduling and Timetabling Solutions被引用数 7

ひとこと要約

本稿では、グラフ彩色問題における列生成（CG）を高速化するための機械学習ベースの価格設定ヒューリスティクス（MLPH）を提案する。訓練されたサポートベクターマシンを用いて、価格設定副問題の最適解を予測し、その予測結果をもとにサンプリング手法を効率的に制御することで、高品質な複数列を生成する。MLPHは、CGの反復回数を顕著に削減し、多様なグラフインスタンスにおいて分枝・価格法の性能を向上させる。

ABSTRACT

Column Generation (CG) is an effective method for solving large-scale optimization problems. CG starts by solving a sub-problem with a subset of columns (i.e., variables) and gradually includes new columns that can improve the solution of the current subproblem. The new columns are generated as needed by repeatedly solving a pricing problem, which is often NP-hard and is a bottleneck of the CG approach. To tackle this, we propose a Machine-Learning-based Pricing Heuristic (MLPH)that can generate many high-quality columns efficiently. In each iteration of CG, our MLPH leverages an ML model to predict the optimal solution of the pricing problem, which is then used to guide a sampling method to efficiently generate multiple high-quality columns. Using the graph coloring problem, we empirically show that MLPH significantly enhancesCG as compared to six state-of-the-art methods, and the improvement in CG can lead to substantially better performance of the branch-and-price exact method.

研究の動機と目的

• 列生成（CG）における計算ボトル neck を解消するため、繰り返しNP困難な価格設定問題を解くことが収束を遅らせるという点に焦点を当てる。
• 従来のヒューリスティック価格設定を置き換えたり補完したりするデータ駆動型の手法を導入することで、列生成の効率性と品質を向上させる。
• グラフ彩色問題における分枝・価格法の正確な解法の性能を向上させるために、CGの反復回数を削減する。
• 機械学習が、歴史的な価格設定問題の解を活用することで、列生成を効果的にガイドできることを示す。

提案手法

• 過去の価格設定問題インスタンス（最適解が既知）を用いて、最適解を予測する線形SVMを用いたオフライン機械学習モデルを訓練する。
• 予測された最適解を基に、各CG反復で複数の高品質な列を効率的に生成するサンプリングに基づく列生成手法を制御する。
• 制限付き主問題（RMP）に追加する最も有益な列を選択するための列選択戦略を適用し、計算効率と解の品質を確保する。
• Dantzig–Wolfe分解フレームワークに統合し、グラフ彩色問題を最大独立集合を列とする集合被覆問題として定式化する。
• 分枝・価格法の枠組み内で評価し、各ノードでLP緩和問題をCGで解く。
• 多様なグラフタイプにわたる予測精度を維持するため、定期的に新しい問題インスタンスを用いてMLモデルを再訓練またはファインチューニングする。

実験結果

リサーチクエスチョン

• RQ1 解が既知の価格設定問題の訓練データから学習した機械学習モデルが、未観測の価格設定問題の最適解を十分に予測できるか。
• RQ2 予測された解を基にサンプリングを制御することで、従来のヒューリスティクスよりも負の減少コストを持つ列をより多く生成できるか。
• RQ3 MLPHは、最先端の価格設定ヒューリスティクスと比較して、CGの反復回数をどの程度削減できるか。
• RQ4 MLPHは、グラフ彩色問題における分枝・価格法全体の性能にどのように影響を与えるか。
• RQ5 機械学習ベースのアプローチは、多様なグラフタイプや問題インスタンスに一般化可能か。

主な発見

• MLPHは、最良のベースライン手法と比較して、平均でCG反復回数を最大57％削減し、収束を顕著に高速化した。
• DSJC250.5インスタンスでは、次に優れた手法と比較して、反復回数を57％削減し、最適解に到達するまでの時間を42％改善した。
• MLPHを用いた分枝・価格法は、20個のベンチマークインスタンスのうち12個を、グローバイや他の最先端のヒューリスティクスよりも速く解いた。
• MLPHは、平均で次に優れた手法と比較して、0.42低い減少コストを持つ列を生成し、解の品質が優れていることを示した。
• テストされたグラフ彩色インスタンス全体で、最適解に到達するまでの時間を平均31％削減した。
• 性能向上は、特に密なグラフ（例：DSJC250.5、DSJR500.5）で顕著であり、従来の価格設定ヒューリスティクスが最も苦戦する分野で顕著に現れた。