[論文レビュー] Unsupervised Learning for Solving the Travelling Salesman Problem

Yimeng Min, Yiwei Bai+1 more|arXiv (Cornell University)|Mar 19, 2023

Metaheuristic Optimization Algorithms Research被引用数 8

ひとこと要約

UTSP は教師なしの代理損失でグラフニューラルネットワークを訓練し、エッジ確率のヒートマップを生成、そのヒートマップに導かれる局所探索を用いて TSP を高い効率と精度で解く。従来のデータ駆動法を上回る。

ABSTRACT

We propose UTSP, an unsupervised learning (UL) framework for solving the Travelling Salesman Problem (TSP). We train a Graph Neural Network (GNN) using a surrogate loss. The GNN outputs a heat map representing the probability for each edge to be part of the optimal path. We then apply local search to generate our final prediction based on the heat map. Our loss function consists of two parts: one pushes the model to find the shortest path and the other serves as a surrogate for the constraint that the route should form a Hamiltonian Cycle. Experimental results show that UTSP outperforms the existing data-driven TSP heuristics. Our approach is parameter efficient as well as data efficient: the model takes $\sim$ 10\% of the number of parameters and $\sim$ 0.2\% of training samples compared with reinforcement learning or supervised learning methods.

研究の動機と目的

• データ効率の良い教師なし学習アプローチでユークリッド TSP の解法モチベーションを示す。
• ソリューション構築を導くエッジのヒートマップを生成する GNN ベースのフレームワークを開発する。
• ハミルトン回路制約を課しつつ経路長を最小化する差分可能な代理損失を導入する。
• ヒートマップ生成と最高優先局所探索を組み合わせて最終的な巡回路を生成する。
• 大規模な TSP インスタンスに対して RL/SL ベースラインと比較して性能と効率が優れていることを示す。

提案手法

• 都市座標から距離行列 D を構築し、W_{i,j}=exp(-D_{i,j}/τ) による隣接重み付けを作る。
• SAG（Scattering Attention GNN）を用いて、GNN 出力 S に対して列方向の Softmax を適用して遷移行列 T を生成する。
• ヒートマップ H = T V T^T を構築する。ここで V はシルベスタ―のシフト行列で、ハミルトン回路におけるエッジ参加確率を符号化する。
• _unsupervised_loss L_ を用いて訓練する。損失は (i) T の行ごとの制約、(ii) H の自己ループなし、(iii) D と H を用いて期待巡回長を最小化、を組み合わせたもの。
• 二段階パイプラインを採用:(a) T からのヒートマップ構築、(b) H に導かれた最良探索で最終的な TSP ツアーを得る。
• 探索中に後向伝播似の規則でより良い解へ結びつくエッジを強化し、探索を多様化するためにランダム性を注入する。

実験結果

リサーチクエスチョン

• RQ1 教師なし代理損失により、ラベル付き最適解ツアーなしで GNN が情報量のあるエッジヒートマップを生成し、TSP ソルバーを導くことができるか。
• RQ2 SAG（帯域フィルタを含む）を用いると、標準的な GCN よりも表現力のあるヒートマップが得られ、探索空間の削減と解の品質が向上するか。
• RQ3 UTSP は大規模な TSP インスタンスで推論時のヒートマップ構築と局所探索の探索をどのようにバランスさせ、競争力あるまたは優れた結果を得るか。
• RQ4 学習済みヒートマップが探索空間をどの程度削減し、従来のデータ駆動ベースラインと比較して解の品質を改善するか。

主な発見

• 大規模 TSP インスタンス n=200, 500, 1000 において、UTSP はギャップ 0.0918%、0.8394%、1.1770% を達成し、総実行時間はベースラインより速い。
• UTSP は RL/SL アプローチに比べてはるかに少ない訓練サンプル（約2,000）とはるかに少ないパラメータ数（例: 44,392）で、より早く収束する。
• Scattering Attention GNN（SAG）は GCN よりも識別性が高く滑らかでないヒートマップ H を生成し、エッジの優先順位付けと局所探索の性能を向上させる。
• UTSP によって導かれる予測エッセ ット Pi は、 modest な訓練後に約98%（η ≈ 98%、約10エポック後）、SAG 使用時には約100エポックで約99.76%、GCN では約33.9% に達する。
• ヒートマップベースの代理損失は探索空間を約4,950エッジから平均約583エッジへ削減し、探索をより速く正確にする。
• 従来の厳密解法や他の学習ベースラインと比較して、UTSP は訓練データと時間を大幅に削減しつつ競争力あるまたは優れた解品質を達成する。