[論文レビュー] How to effectively use machine learning models to predict the solutions for optimization problems: lessons from loss function

Mahdi Abolghasemi, Babak Abbasi+2 more|arXiv (Cornell University)|May 14, 2021

Constraint Satisfaction and Optimization参考文献 33被引用数 6

ひとこと要約

本論文では、血液輸送などの大規模な確率的最適化問題に対する最適解を予測するために、特に平均絶対誤差（MAE）損失を用いたLightGBMを含む高度な機械学習モデルの使用を提案する。MAE損失が制約遵守性と解の正確性を顕著に向上させることを示しており、最適解との類似度が最大98％に達する。これはMSEおよびHuber損失を上回り、商業用ソルバーに比べて高速かつ低コストな予測を可能にする。

ABSTRACT

Using machine learning in solving constraint optimization and combinatorial problems is becoming an active research area in both computer science and operations research communities. This paper aims to predict a good solution for constraint optimization problems using advanced machine learning techniques. It extends the work of \cite{abbasi2020predicting} to use machine learning models for predicting the solution of large-scaled stochastic optimization models by examining more advanced algorithms and various costs associated with the predicted values of decision variables. It also investigates the importance of loss function and error criterion in machine learning models where they are used for predicting solutions of optimization problems. We use a blood transshipment problem as the case study. The results for the case study show that LightGBM provides promising solutions and outperforms other machine learning models used by \cite{abbasi2020predicting} specially when mean absolute deviation criterion is used.

研究の動機と目的

• 大規模な確率的最適化問題、特にサプライチェーン文脈において、最適な意思決定変数を予測する機械学習フレームワークの開発を目的とする。
• MAE、MSE、Huberの異なる損失関数が、機械学習モデルが予測する解の正確性および制約遵守性に与える影響を調査することを目的とする。
• 主なサプライチェーンコスト（発注、在庫、輸送、不足、期限切れ）の分析を通じて、機械学習で得られた予測解の実用的有用性を評価することを目的とする。
• LightGBM、SVR、Ridge、MLPといった複数の機械学習モデルが、現実世界の血液輸送問題における解の予測にどの程度有効であるかを比較することを目的とする。
• 商業用最適化ソルバーに比べて、機械学習モデルがより高速かつ安価に近似最適解を生成できることを実証することを目的とする。

提案手法

• 血液サプライチェーン管理における2段階の確率的最適化問題から得られた歴史的データを用いて、多出力機械学習モデル（LightGBM、SVR、Ridge、MLP）を訓練した。
• 解の品質および制約遵守性への影響を評価するために、LightGBMの訓練に平均絶対誤差（MAE）、平均二乗誤差（MSE）、Huber損失という3つの異なる損失関数を採用した。
• 814,000件の注文および在庫記録を対象に、最適解との類似度（解の正確性）および制約違反率の両方を用いてモデルの性能を評価した。
• 各モデルの予測に基づく合計サプライチェーンコスト（発注、在庫、輸送、不足、期限切れ）を算出し、比較することで、予測の予測価値を評価した。
• 4つの病院と12種類の血液製品の保存期間を想定した、現実の確率的需要および腐敗性を再現する血液輸送ネットワークの事例研究を実施した。
• ハイパーパramータチューニングを用いてモデルを最適化し、最適化ソルバーから得た正確な解と照合して予測値を検証した。

実験結果

リサーチクエスチョン

• RQ1 損失関数の選択（MAE、MSE、Huber）が、制約付き最適化問題の解を予測する機械学習モデルの正確性および制約遵守性にどのように影響するか？
• RQ2 機械学習モデル（LightGBM、SVR、Ridge、MLP）の中で、大規模な確率的最適化問題における最適意思決定変数の予測に最も優れた性能を示すのはどれか？
• RQ3 機械学習で得られた解が最適解とどの程度類似しているか、およびコスト効率の観点からどの程度の一致を示すか？
• RQ4 異なる損失関数で訓練されたモデルの中で、制約違反が最も少ない、妥当な解を生成できるのはどれか？特に、制約遵守性の観点から比較した場合。
• RQ5 機械学習で得られた解と最適解との間で、合計サプライチェーンコスト（発注、在庫、輸送、不足、期限切れ）にどのような差が生じるか？

主な発見

• MAE損失で訓練されたLightGBMは、最適解との類似度が最大98％に達し、他のモデルや損失関数と比較して正確性が顕著に優れていた。
• LightGBM-MAEモデルは814,000件の記録のうちわずか21件の制約違反しか示さず、全モデルの中で最も低い水準であり、優れた制約遵守性を示した。
• MSE損失で訓練されたモデルは、特にLightGBM-MSEでは71件の制約違反を示すなど、制約違反の頻度が著しく高く、制約付き最適化予測には不適切であることが判明した。
• SVRおよびLightGBM-MAEの両モデルが21件の制約違反しか示さず、予測解の妥当性が非常に高いことが示された。
• 機械学習モデル、特にLightGBM-MAEは、コストの同等性を上回る性能を示し、不足や期限切れのコストを低減するなど、コストパラメータの改善も見られた。
• MLPモデルは性能が低く、411件の制約違反を示し、正確性が最も低く、本タスクには適さないことが判明した。