[論文レビュー] Dynamic Partial Removal: A Neural Network Heuristic for Large Neighborhood Search

Mingxiang Chen, Lei Gao+2 more|arXiv (Cornell University)|May 19, 2020

Vehicle Routing Optimization Methods参考文献 13被引用数 10

ひとこと要約

本稿では、階層的再帰的グラフ畳み込みネットワーク（HRGCN）に基づく新しいニューラルネットワークヒューリスティックである動的部分削除（DPR）を提案する。DPRは、組合せ最適化のための大型ネighborhood検索（LNS）を強化する。空間的および時間的文脈認識を統合することで、DPRは解を適応的に破壊・再構築し、特に大規模問題において、ALNS や SISR といった従来の LNS ヒューリスティックよりも高速な収束性と優れた解の品質を達成する。

ABSTRACT

This paper presents a novel neural network design that learns the heuristic for Large Neighborhood Search (LNS). LNS consists of a destroy operator and a repair operator that specify a way to carry out the neighborhood search to solve the Combinatorial Optimization problems. The proposed approach in this paper applies a Hierarchical Recurrent Graph Convolutional Network (HRGCN) as a LNS heuristic, namely Dynamic Partial Removal, with the advantage of adaptive destruction and the potential to search across a large scale, as well as the context-awareness in both spatial and temporal perspective. This model is generalized as an efficient heuristic approach to different combinatorial optimization problems, especially to the problems with relatively tight constraints. We apply this model to vehicle routing problem (VRP) in this paper as an example. The experimental results show that this approach outperforms the traditional LNS heuristics on the same problem as well. The source code is available at \href{https://github.com/water-mirror/DPR}{https://github.com/water-mirror/DPR}.

研究の動機と目的

• 大規模な組合せ最適化問題における解の品質と収束速度を向上させる、より知能的で適応的なLNSヒューリスティックの開発を目的とする。
• 深層学習を用いて、空間的および時間的文脈認識をLNSの破壊演算子に統合し、破壊過程におけるノード選択をより知的に可能にする。
• 特に容量制約付き時間窓付き車両巡回問題（CVRPTW）のような厳しい制約を伴う多様な組合せ問題に、本手法を一般化することを目的とする。
• 学習可能な再帰的グラフベースの破壊メカニズムを用いて、従来のLNSヒューリスティック（ALNS や SISR）を上回る解の品質と計算効率を達成することを目的とする。

提案手法

• 動的部分削除（DPR）ヒューリスティックのコアとして、階層的再帰的グラフ畳み込みネットワーク（HRGCN）を提案する。
• 破壊プロセス中に、空間的文脈（ルートに沿ったトポロジカルな近接ノードおよび連続するノード列）と時間的文脈（反復回数に伴う解の履歴）の両方をHRGCNでモデル化する。
• 学習された文脈埋め込みに基づいて、どのノードやルートを削除すべきかを学習する動的かつ適応的な破壊戦略を実装する。これはALNSやSISRにインspiredされたものである。
• 破壊後、最小コスト挿入戦略を用いて、削除されたノードを再挿入する修復演算子を適用する。
• 強化学習を用いて、合成データおよびベンチマークデータ上でDPRモデルをエンドツーエンドで訓練し、方策勾配法により破壊方針を最適化する。
• 各反復で複数のアンカーポイントを用いることで、多様な破壊パターンを探索し、探索の多様性と解の品質を向上させる。

実験結果

リサーチクエスチョン

• RQ1 学習可能な文脈認識型ニューラルネットワークヒューリスティックは、従来の手作業で設計されたLNS破壊演算子よりも、解の品質と収束速度において優れているか？
• RQ2 HRGCNに空間的および時間的文脈を統合することで、LNSにおけるノード破壊の有効性はどの程度向上するか？
• RQ3 提案されたDPRヒューリスティックは、特に大規模なCVRPTWインスタンスにおいて、どのようなスケーリング特性を示すか？
• RQ4 SISRにインspiredされた適応的破壊およびクラスタ化された削除パターンの統合は、標準的またはランダムな削除戦略よりも優れたパフォーマンスをもたらすか？

主な発見

• CVRPTW25ベンチマークでは、DPRの平均コストは109.98であり、ALNS（116.64）およびSISR（114.09）を上回り、優れた解の品質を示した。
• CVRPTW200では、DPRの平均コストは4066.86にまで低下し、ALNS（4632.34）およびSISR（4454.54）を著しく下回り、優れたスケーラビリティを示した。
• CVRPTW400では、DPRのコストは9699.34であったのに対し、SISRは11301.2、基準ベースライン（真値）は11901.2であったため、大規模問題においても強力な性能を発揮した。
• 図5の収束曲線から、DPRは従来のヒューリスティックよりも最適な解の品質に早く到達することが確認され、計算効率の高さが裏付けられた。
• 図6から、反復に伴いルート係数が減少していることが明らかで、特に大規模問題において粗いから細かい探索粒度へのズームインが効果的に行われていることが示された。
• DPR RL-nG（25–200ノード）およびDPR RL-nGL（400–800ノード）の両方とも、あらゆるスケールで一貫した性能向上を示しており、モデルの汎化能力が裏付けられた。