[论文解读] How to effectively use machine learning models to predict the solutions for optimization problems: lessons from loss function

Mahdi Abolghasemi, Babak Abbasi+2 more|arXiv (Cornell University)|May 14, 2021

Constraint Satisfaction and Optimization参考文献 33被引用 6

一句话总结

本文提出使用先进的机器学习模型——特别是采用平均绝对误差（MAE）损失的LightGBM——来预测大规模随机优化问题的最优解，例如血液转运问题。结果表明，MAE损失显著提升了约束满足度和解的准确性（与最优解的相似度高达98%），优于MSE和Huber损失，同时相比商业求解器，实现了更快、更经济的预测。

ABSTRACT

Using machine learning in solving constraint optimization and combinatorial problems is becoming an active research area in both computer science and operations research communities. This paper aims to predict a good solution for constraint optimization problems using advanced machine learning techniques. It extends the work of \cite{abbasi2020predicting} to use machine learning models for predicting the solution of large-scaled stochastic optimization models by examining more advanced algorithms and various costs associated with the predicted values of decision variables. It also investigates the importance of loss function and error criterion in machine learning models where they are used for predicting solutions of optimization problems. We use a blood transshipment problem as the case study. The results for the case study show that LightGBM provides promising solutions and outperforms other machine learning models used by \cite{abbasi2020predicting} specially when mean absolute deviation criterion is used.

研究动机与目标

• 开发一种机器学习框架，用于预测大规模随机优化问题的最优决策变量，特别是在供应链背景下。
• 研究不同损失函数（MAE、MSE和Huber）对机器学习预测解的准确性与约束满足度的影响。
• 通过分析关键供应链成本（订购、持有、转运、缺货、过期）来评估机器学习预测解的实际应用价值。
• 比较多种机器学习模型（LightGBM、SVR、Ridge、MLP）在真实世界血液转运问题中预测解的表现。
• 证明机器学习模型能够比商业优化求解器更快、更经济地生成接近最优的解。

提出的方法

• 在血液供应链管理中一个两阶段随机优化问题的历史数据上，训练多输出机器学习模型（LightGBM、SVR、Ridge、MLP）。
• 采用三种不同的损失函数——平均绝对误差（MAE）、均方误差（MSE）和Huber损失——对LightGBM进行训练，以评估其对解质量与约束符合度的影响。
• 通过814,000条订单与库存记录，评估模型性能，指标包括与最优解的相似度和约束违反率。
• 计算并比较各模型预测下总供应链成本（订购、持有、转运、缺货、过期）以评估预测的实用性。
• 通过一个包含4家医院和12种血液产品年龄的血液转运网络案例研究，模拟现实世界中的随机需求与易腐性。
• 通过超参数调优优化模型，并将预测结果与优化求解器得出的精确解进行验证。

实验结果

研究问题

• RQ1 损失函数的选择（MAE、MSE、Huber）如何影响机器学习模型在预测受约束优化问题解时的准确性与约束满足度？
• RQ2 在预测大规模随机优化问题的最优决策变量方面，哪种机器学习模型（LightGBM、SVR、Ridge、MLP）表现最佳？
• RQ3 机器学习预测解在解的相似度与成本效率方面，与最优解的匹配程度如何？
• RQ4 机器学习模型能否生成比其他模型更少违反约束的可行解，尤其是在采用不同损失函数训练时？
• RQ5 机器学习预测解与最优解之间的总供应链成本（订购、持有、转运、缺货、过期）有何差异？

主要发现

• 采用MAE损失训练的LightGBM模型与最优解的相似度最高可达98%，在准确度上优于其他模型与损失函数。
• LightGBM-MAE模型仅在814,000条记录中有21次违反约束，是所有模型中最低的，表明其具有卓越的约束满足能力。
• 采用MSE损失训练的模型违反约束的次数显著更多（例如，LightGBM-MSE有71次违反），因此在受约束优化预测中适用性较低。
• SVR与LightGBM-MAE均仅出现21次约束违反，表明其预测解具有极强的可行性。
• 机器学习模型，特别是LightGBM-MAE，在保持总成本具有竞争力的同时，有效降低了缺货与过期成本，显示出超越成本持平的实用价值。
• MLP模型表现较差，共违反约束411次，且准确度最低，表明其在该任务中适用性有限。