[論文レビュー] Large Neighborhood Search based on Neural Construction Heuristics

Jonas K. Falkner, Daniela Thyssens+1 more|arXiv (Cornell University)|May 2, 2022

Vehicle Routing Optimization Methods被引用数 4

ひとこと要約

本稿では、時間窓付き自動車ルーティング問題（VRPTW）のための大型ネighborhood探索（LNS）フレームワークを提案する。このフレームワークは、ラベルなしで強化学習により学習された、グラフニューラルネットワーク（GNN）に基づく神経的構築ヒューリスティクス（NCH）を修復オペレータとして用いる。NCHにより、効率的かつ微分可能なかい改訂が可能となり、近似的最適な性能を達成。600ノードのインスタンスにおいて、最良既知解（BKS）の1.1倍の性能を達成し、GPUハードウェア上で顕著な高速化を実現した。

ABSTRACT

We propose a Large Neighborhood Search (LNS) approach utilizing a learned construction heuristic based on neural networks as repair operator to solve the vehicle routing problem with time windows (VRPTW). Our method uses graph neural networks to encode the problem and auto-regressively decodes a solution and is trained with reinforcement learning on the construction task without requiring any labels for supervision. The neural repair operator is combined with a local search routine, heuristic destruction operators and a selection procedure applied to a small population to arrive at a sophisticated solution approach. The key idea is to use the learned model to re-construct the partially destructed solution and to introduce randomness via the destruction heuristics (or the stochastic policy itself) to effectively explore a large neighborhood.

研究の動機と目的

• 大型ネighborhood探索（LNS）における自動車ルーティング問題のスケーラブルで微分可能な修復オペレータの開発を目的とする。
• 大規模VRPTWにおいて標準的なアテンションベースのモデルの限界を克服するため、自己アテンションを局所的グラフニューラルネットワークに置き換える。
• 学習された修復とヒューリスティック破壊オペレータ、および確率的要因を組み合わせることで、LNSにおける効果的なネighborhood探索を実現する。
• 具体的には、DIMACS VRPTWチャレンジという実世界のベンチマーク環境で手法を評価し、手作業で最適化されたソルバーよりも競争力があるかを検証する。
• 複雑な組合せ最適化問題におけるエンドツーエンドで学習された構築ヒューリスティクスの実現可能性と性能ポテンシャルを示す。

提案手法

• 本手法は、各ノードの静的空間的近傍をエンコードするためにグラフニューラルネットワーク（GNN）を用いる。事前に計算され固定されるため、計算量をO(N²)からO(Nk)に削減する。
• 各デコードステップで、現在のルートの局所的近傍を対象にGNNを適用し、動的ノード埋め込みを計算する。これにより、行動選択に適したルート固有の文脈を捉える。
• 最終的なノード埋め込みは、静的および動的埋め込みの和として定義される：$\tilde{x}_i^{(t)} = \tilde{x}_i^{\text{stat}} + \tilde{x}_i^{\text{dyn}}$。これにより、文脈に応じた自己回帰的で解釈可能な解釈構築が可能となる。
• 結合埋め込みを対象にアテンションを用いたポリシーネットワークが、次に追加するノードを選択する。選択にはグリーディ選択またはソフトマックスサンプリングを用いる。
• 神経的修復オペレータは、ヒューリスティック破壊オペレータ（例：ランダム、待機時間に基づく、ルート削除）を組み合わせたLNSフレームワークに統合され、多様なネighborhoodを探索する。
• 修復後、時間制限をインスタンスサイズに比例してスケーリングしたGuided Local Search（GLS）を用いてローカルサーチを実施し、解の品質をさらに向上させる。

実験結果

リサーチクエスチョン

• RQ1 強化学習で学習された神経的構築ヒューリスティクスが、VRPTWにおける大型ネighborhood探索（LNS）の有効で汎用的な修復オペレータとして機能できるか？
• RQ2 自己アテンションを局所的GNNに置き換えることで、大規模VRPTWインスタンスにおけるスケーラビリティとパフォーマンスにどのような影響を与えるか？
• RQ3 ヒューリスティック破壊と組み合わせた学習された修復オペレータは、従来のLNSにおけるグリーディヒューリスティクスと比較して、解の品質をどの程度向上できるか？
• RQ4 本手法は、分布外のインスタンスや大規模な問題サイズ（例：600ノード）において、最先端のソルバーよりも優れた性能を示すか？
• RQ5 単一スレッドCPU評価環境において、GPU最適化されたGNNベースのNCHが、どのような計算的利点を示すか？

主な発見

• 提案手法は、600ノードのVRPTWインスタンスにおいて、最良既知解（BKS）の平均1.1倍の性能を達成し、全ベンチマークタイプで中央値のギャップが10%未満であった。
• SolomonおよびHomberger & Gehringベンチマークにおいて、600ノードのR2、C2、RC2インスタンスで平均9.99%のギャップを達成し、強力なスケーラビリティを示した。
• 消費向けGPU（NVIDIA GeForce 1080 Ti）上では、単一スレッドCPU推論と比較して15–20倍の高速化を達成した。これは、GPUネイティブな効率性を示している。
• 事前に計算された静的GNN埋め込みの使用により、計算複雑度をO(N²)からO(Nk)に削減し、大規模インスタンスにおける推論が可能になった。
• 標準ヒューリスティクスを用いたベースラインLNSと比較して、提案手法は優れた性能を示した。学習された修復オペレータが、ネighborhood探索の質と解の品質を顕著に向上させた。
• 実験段階にありながらも、高度に最適化された手作業によるソルバーよりも競争力のある結果を達成した。エンドツーエンドのファインチューニングにより、今後のさらなる向上が期待される。