[論文レビュー] A novel Hopfield neural network approach for minimizing total weighted tardiness of jobs scheduled on identical machines

Norbert Fogarasi, Kálmán Tornai+1 more|arXiv (Cornell University)|Jul 26, 2012

Neural Networks and Applications参考文献 28被引用数 3

ひとこと要約

本稿では、先行不能なジョブを同一並列マシン上でスケジューリングする際の総加重遅延（TWT）を最小化するための、新しいホフリードニューラルネットワーク（HNN）ベースのヒューリスティクスを提案する。問題を二次計画法として定式化することで、HNNアプローチは優れた性能を発揮し、EDDやWSPTに比べて25–56%、25–84%優れている。100件を超えるジョブに対してもスケーラブルであり、金融・計算生物学分野におけるリアルタイムのグリッドコンピューティング応用に適している。

ABSTRACT

This paper explores fast, polynomial time heuristic approximate solutions to the NP-hard problem of scheduling jobs on N identical machines. The jobs are independent and are allowed to be stopped and restarted on another machine at a later time. They have well-defined deadlines, and relative priorities quantified by non-negative real weights. The objective is to find schedules which minimize the total weighted tardiness (TWT) of all jobs. We show how this problem can be mapped into quadratic form and present a polynomial time heuristic solution based on the Hopfield Neural Network (HNN) approach. It is demonstrated, through the results of extensive numerical simulations, that this solution outperforms other popular heuristic methods. The proposed heuristic is both theoretically and empirically shown to be scalable to large problem sizes (over 100 jobs to be scheduled), which makes it applicable to grid computing scheduling, arising in fields such as computational biology, chemistry and finance.

研究の動機と目的

• 同一並列マシン上でデッドラインと非負の重みを持つ独立ジョブをスケジューリングする際のNP困難な総加重遅延（TWT）を最小化すること。
• EDD や WSPT などの既存の古典的スケジューリングヒューリスティクスを上回る、高速でスケーラブルなヒューリスティクス解法を開発すること。
• 計算ファイナンスや生物学分野におけるグリッドコンピューティングのようなリアルタイムで大規模なコンピューティング環境への実用的応用を可能にすること。
• HNNベースのアプローチが、100件以上のジョブを含む問題に対して理論的・実験的にスケーラブルであることを示すこと。
• 多様な問題インスタンスおよびサイズにおいて、HNNの性能を確立されたヒューリスティクスと比較すること。

提案手法

• TWTスケジューリング問題をニューラルネットワーク最適化に適した二次計画法として定式化する。
• エネルギー最小化を活用して近似的最適スケジュールを求めるために、ホフリードニューラルネットワーク（HNN）フレームワークを採用する。
• スケジューリング制約を満たすために、ラグランジュ緩和およびペナルティパラメータ（alpha, beta, gamma）に基づく動的更新ルールをHNNが使用する。
• 収束性と解の品質を向上させるために、反復的パラメータ調整（アルゴリズム1に準拠）を実施する。
• 複数回のランダム初期化による解の生成を行い、少数の実行回数から最良の解を選択する。
• 並列実行を想定した設計となっており、マルチコアまたはGPUベースのアーキテクチャへの効率的導入が可能で、実行時間を短縮できる。

実験結果

リサーチクエスチョン

• RQ1 ホフリードニューラルネットワーク（HNN）は、同一並列マシン上でのNP困難な総加重遅延（TWT）問題に効果的に適応可能か？
• RQ2 HNNベースのヒューリスティクスは、EDD、WSPT、LWPFといった古典的ヒューリスティクスと比較して、問題サイズが変化する中で解の品質にどの程度優れているか？
• RQ3 HNNアプローチは、実世界のグリッドコンピューティングに適した大規模スケジューリング問題（例：100件以上）に対してどの程度スケーラブルか？
• RQ4 HNN手法の実効的実行時間性能は何か？また、リアルタイムまたは本番環境での使用を最適化できるか？
• RQ5 知能的な初期化（例：WSPT や LWPF の結果を用いる）は、ランダム初期化に比べてHNNの収束性と解の品質を向上させられるか？

主な発見

• HNNヒューリスティクスは、EDDの25–56%、WSPTの25–84%、LWPFの34–91%の平均的な総加重遅延値を生成することで、EDD、WSPT、LWPFを上回る。
• サイズごに500件のランダムに生成された問題の98.6–100%において、HNNは次に優れたヒューリスティクス（LWPF）よりも優れた解を生成し、一貫した優位性を示した。
• 100ジョブ問題において、非最適化のMATLABコードをCore i7@3GHzプロセッサで実行した場合、1イテレーションあたり約6秒で近似的最適解に到達した。
• HNNの理論的収束複雑度はO(L²N²)であり、EDD/WSPTのO(LN)より高いが、並列化の可能性により実用的な性能を維持している。
• HNN手法は大規模問題に対しても良好にスケーリングされ、金融リスク計算のオーバーナイト処理のような実世界の応用においても実行時間の制限内に収束する。
• HNNの性能は多様な問題インスタンスに対して頑健であり、問題サイズの増加に伴い解の品質に顕著な低下が見られなかった。