[论文解读] A novel Hopfield neural network approach for minimizing total weighted tardiness of jobs scheduled on identical machines

Norbert Fogarasi, Kálmán Tornai+1 more|arXiv (Cornell University)|Jul 26, 2012

Neural Networks and Applications参考文献 28被引用 3

一句话总结

本文提出了一种基于霍普菲尔德神经网络（HNN）的新启发式算法，用于在具有抢占能力的相同并行机上最小化总加权延迟时间（TWT）。通过将问题建模为二次优化任务，HNN方法实现了卓越性能——其解比EDD好25–56%，比WSPT好25–84%，同时在超过100个作业的情况下仍保持可扩展性，适用于金融和计算生物学中的实时网格计算应用。

ABSTRACT

This paper explores fast, polynomial time heuristic approximate solutions to the NP-hard problem of scheduling jobs on N identical machines. The jobs are independent and are allowed to be stopped and restarted on another machine at a later time. They have well-defined deadlines, and relative priorities quantified by non-negative real weights. The objective is to find schedules which minimize the total weighted tardiness (TWT) of all jobs. We show how this problem can be mapped into quadratic form and present a polynomial time heuristic solution based on the Hopfield Neural Network (HNN) approach. It is demonstrated, through the results of extensive numerical simulations, that this solution outperforms other popular heuristic methods. The proposed heuristic is both theoretically and empirically shown to be scalable to large problem sizes (over 100 jobs to be scheduled), which makes it applicable to grid computing scheduling, arising in fields such as computational biology, chemistry and finance.

研究动机与目标

• 解决在具有截止日期和非负权重的独立作业在相同并行机上调度的NP难问题，即最小化总加权延迟时间（TWT）。
• 开发一种快速、可扩展的启发式解法，优于现有的经典调度启发式算法（如EDD和WSPT）。
• 实现在计算金融和生物学等实时、大规模计算环境（如网格计算）中的实际应用。
• 证明基于HNN的方法在理论上和实证上均可扩展至100个以上作业的问题。
• 在不同规模和多样的问题实例上，评估HNN与现有启发式算法的性能表现。

提出的方法

• 将TWT调度问题映射为适合神经网络优化的二次规划形式。
• 采用霍普菲尔德神经网络（HNN）框架求解二次优化问题，利用能量最小化寻找近似最优调度。
• HNN使用基于拉格朗日松弛和惩罚参数（alpha, beta, gamma）的动态更新规则，以满足调度约束。
• 通过迭代调整参数（如算法1所示）以提高收敛性和解的质量。
• 通过多次随机初始化生成解，并从少量运行中选择最优解。
• 该方法设计为可并行执行，支持在多核或基于GPU的架构上高效部署，以减少运行时间。

实验结果

研究问题

• RQ1 霍普菲尔德神经网络能否有效适配于在相同并行机上求解NP难的总加权延迟时间（TWT）问题？
• RQ2 在不同问题规模下，基于HNN的启发式算法在解的质量上与经典启发式算法（如EDD、WSPT和LWPF）相比如何？
• RQ3 HNN方法在大规模调度问题（如100个以上作业）中的可扩展性如何，是否适用于现实世界中的网格计算？
• RQ4 HNN方法的实证运行时间表现如何，是否可优化以用于实时或生产环境？
• RQ5 使用智能初始化（如基于WSPT或LWPF结果）是否能提升HNN的收敛速度和解的质量，相较于随机初始化？

主要发现

• HNN启发式算法在平均值上产生的总加权延迟时间仅为EDD的25–56%、WSPT的25–84%、LWPF的34–91%。
• 在每种规模下随机生成的500个问题中，有98.6–100%的问题中HNN产生的解优于次优启发式算法（LWPF），显示出一致的优越性。
• 对于100个作业的问题，HNN在使用非优化的MATLAB代码和Core i7@3GHz处理器时，每次迭代约6秒内即可获得近似最优解。
• HNN的理论收敛复杂度为O(L²N²)，高于EDD/WSPT的O(LN)，但由于具备并行化潜力，实际性能仍可接受。
• HNN方法在大规模问题上表现出良好可扩展性，运行时间保持在实时应用（如夜间金融风险计算）可接受范围内。
• HNN在多样化问题实例中表现稳健，随着问题规模增大，解的质量未出现显著下降。