[論文レビュー] EGAM: Extended Graph Attention Model for Solving Routing Problems

Lihua Wang, Yuzi Yan+2 more|arXiv (Cornell University)|Jan 29, 2026

Vehicle Routing Optimization Methods被引用数 0

ひとこと要約

EGAM はノードとエッジの埋め込みをマルチヘッドアテンションで更新し、REINFORCE と対称性ベースのベースラインで訓練して、ラベル付きデータなしで厳しい制約下のルーティング問題に高性能を発揮する。

ABSTRACT

Neural combinatorial optimization (NCO) solvers, implemented with graph neural networks (GNNs), have introduced new approaches for solving routing problems. Trained with reinforcement learning (RL), the state-of-the-art graph attention model (GAM) achieves near-optimal solutions without requiring expert knowledge or labeled data. In this work, we generalize the existing graph attention mechanism and propose the extended graph attention model (EGAM). Our model utilizes multi-head dot-product attention to update both node and edge embeddings, addressing the limitations of the conventional GAM, which considers only node features. We employ an autoregressive encoder-decoder architecture and train it with policy gradient algorithms that incorporate a specially designed baseline. Experiments show that EGAM matches or outperforms existing methods across various routing problems. Notably, the proposed model demonstrates exceptional performance on highly constrained problems, highlighting its efficiency in handling complex graph structures.

研究の動機と目的

• ラベル付きデータなしにニューラル組合せ最適化で NP困難なルーティング問題の解法を動機づける。
• ノード-エッジとエッジ-ノードのアテンションを導入してエッジ情報を取り込み、 GAM を一般化する。
• ポリシー勾配法で訓練されるエンコーダ－デコーダ自己回帰アーキテクチャを開発する。
• TSP、CVRP、PCTSP、および TSPTW、TSPDL、VRPTW のような制約付き変種で性能を改善することを示す。

提案手法

• Edge-Node および Node-Edge アテンションを導入して、ノード埋め込みだけでなくエッジ埋め込みを更新する。
• 統合されたエンコーダ層（Node-Node、Edge-Node、Node-Edge）で一般化されたマルチヘッドドット積アテンションを使用する。
• 経路生成のための自己回帰エンコーダ－デコーダアーキテクチャを採用する。
• ラベル付きデータを避けるために対称性ベースのベースラインを用いて REINFORCE で訓練する。
• 文脈認識型アテンションとマスキングを用いてルーティング意思決定時の実現可能性を保証する。

Figure 1 : Illustration of the proposed EGAM structure. The rounded rectangles represent trainable network layers, while the ellipses denote the output variables. For simplicity, the residual connections of the MHA and feed-forward layers are omitted. Arrows indicate the data flow from the problem i

実験結果

リサーチクエスチョン

• RQ1 Node-Edge および Edge-Node アテンションによるエッジ機能の導入は、ノード単独の GAM と比較してルーティング性能にどのような影響を与えるか？
• RQ2 EGAM は標準的および高度に制約されたルーティング問題において、ラベルなしデータで強化学習を用いて近似最適解またはそれ以上を達成できるか？
• RQ3 問題種別と制約ごとに greedy と sampling 推論の影響はどうなるか？
• RQ4 対称性ベースのベースラインは RL ベースのルーティングソルバーの学習効率と収束にどのような影響を与えるか？

主な発見

方法	タイプ	TSP コスト	TSP ギャップ	TSP 時間	CVRP コスト	CVRP ギャップ	CVRP 時間	PCTSP コスト	PCTSP ギャップ	PCTSP 時間
EGAM (Ours)	Greedy	5.72	0.49%	6s	10.72	3.29%	7s	4.51	0.81%	6s
EGAM (Ours)	1280 Sampling	5.70	0.03%	2.29m	10.48	1.01%	2.4m	4.48	0.11%	2.3m
GAM	Greedy	5.80	1.76%	4s	10.98	5.86%	4s	4.60	2.84%	3s
GATv2	Greedy	5.77	1.33%	3s	10.90	5.04%	3s	4.56	1.95%	2s
POMO	Greedy	5.73	0.64%	5s	10.74	3.54%	6s	/	/	/

• EGAM はいくつかのルーティング問題で既存手法と同等またはそれを上回り、特に厳しい制約下で優位性を示す。
• TSP、CVRP、PCTSP では、EGAM は greedy および sampling 戦略で競争力のあるコストと最先端手法に対する小さなギャップを達成する。
• 高度に制約された問題（例：TSPTW、TSPDL、VRPTW）では、コスト、実現性、解品質の点で顕著な改善を示す。
• エッジ機能の統合は遷移関係のモデリングを改善し、複雑なグラフ構造での性能向上に寄与する。
• EGAM は自己回帰的なスケーラビリティと潜在的な非自己回帰的拡張にも競争力を示す。

Figure 2 : Evolution of the training loss and cost for TSP