[論文レビュー] Towards Omni-generalizable Neural Methods for Vehicle Routing Problems

Jianan Zhou, Yaoxin Wu+3 more|arXiv (Cornell University)|May 31, 2023

Vehicle Routing Optimization Methods被引用数 11

ひとこと要約

本論文は、タスクサイズと分布を横断するオムニ一般化を可能にするモデル非依存のメタ学習フレームワークを用いてニューラルVRPソルバーを訓練し、効率的な一階勾配/切り捨て二階勾配訓練近似を導入、TSPとCVRPで実証します。

ABSTRACT

Learning heuristics for vehicle routing problems (VRPs) has gained much attention due to the less reliance on hand-crafted rules. However, existing methods are typically trained and tested on the same task with a fixed size and distribution (of nodes), and hence suffer from limited generalization performance. This paper studies a challenging yet realistic setting, which considers generalization across both size and distribution in VRPs. We propose a generic meta-learning framework, which enables effective training of an initialized model with the capability of fast adaptation to new tasks during inference. We further develop a simple yet efficient approximation method to reduce the training overhead. Extensive experiments on both synthetic and benchmark instances of the traveling salesman problem (TSP) and capacitated vehicle routing problem (CVRP) demonstrate the effectiveness of our method. The code is available at: https://github.com/RoyalSkye/Omni-VRP.

研究の動機と目的

• 問題サイズとデータ分布の両方に跨るニューラルVRP手法の一般化の必要性を喚起する。
• 高速なタスク適応のためにモデルに依存しないメタ学習フレームワークを提案する。
• メタトレーニングのオーバーヘッドを削減するための効率的な訓練近似を開発する。
• 合成データとベンチマーク例の両方において、TSPとCVRPでオムニ一般化を実証する。

提案手法

• VRPタスクをサイズnと分布dで定義してタスク分布p(T)を形成する。
• K回の勾配ステップで新しいタスクへ迅速に適応できるメタモデルθ0*を学習する、MAMLに似た内側・外側ループを用いる。
• タスク難易度とサイズの進行に基づいてタスクサンプリングを適応させる階層的タスクスケジューラを採用する。
• メタグラデントの回帰において、初期は安定性のために二階微分更新を用い、コスト削減のために早期停止を伴う一階近似へ切り替える。
• TSPでPOMOをメタトレーニングし、クロスサイズ/分布タスクでゼロショットおよびフェューショット適応を評価する。

実験結果

リサーチクエスチョン

• RQ1 未知のサイズと分布を持つVRPタスクへの迅速な適応を可能にする初期化をメタ学習フレームワークが生成できるか？
• RQ2 階層的タスクスケジューラの導入はメタトレーニングの効率性と一般化を向上させるか？
• RQ3 強化学習ベースのVRPモデルにおいて、一階近似は安定かつ効率的なメタトレーニングに十分か？
• RQ4 合成データとベンチマーク集合におけるTSPとCVRPでのオムニ一般化の性能はどうなるか？

主な発見

• 提案されたオムニ一般化フレームワークは、多様なサイズと分布にわたるTSPおよびCVRPでゼロショットおよびフェューショットの性能を向上させる。
• 階層的タスクスケジューラはメタトレーニング中に難易度の高いタスクとより大きいサイズを優先するのを助け、一般化を改善する。
• 初期段階で二階微分を用き、早期停止で一階更新へ切替ることで、安定性と訓練効率のバランスを達成する。
• 一階のみのメタトレーニングは初期には安定性が低いことがあるが、適切なスケジューリングと部分的な二階更新からのウォームスタートで効果的になる。
• 合成データおよびベンチマークデータセット（TSPLIBとCVRPLIB）で、ベースラインおよび既存のメタ学習法と比較して一貫した性能向上を示す。