[論文レビュー] How Good Is Neural Combinatorial Optimization? A Systematic Evaluation on the Traveling Salesman Problem

Shengcai Liu, Yu Zhang+2 more|arXiv (Cornell University)|Sep 22, 2022

Metaheuristic Optimization Algorithms Research被引用数 5

ひとこと要約

本論文は、巡回セールスマン問題（TSP）において、神経系組合せ最適化（NCO）ソルバと従来のソルバを、5つのパフォーマンス次元にわたる包括的なプロトコルを用いて体系的に比較評価する。結果として、NCOソルバは一般的に従来手法に劣るが、十分な訓練データが利用可能な場合、小規模なTSPインスタンスにおいて時間的・エネルギー的効率性に優れる可能性があることが示された。

ABSTRACT

Traditional solvers for tackling combinatorial optimization (CO) problems are usually designed by human experts. Recently, there has been a surge of interest in utilizing deep learning, especially deep reinforcement learning, to automatically learn effective solvers for CO. The resultant new paradigm is termed neural combinatorial optimization (NCO). However, the advantages and disadvantages of NCO relative to other approaches have not been empirically or theoretically well studied. This work presents a comprehensive comparative study of NCO solvers and alternative solvers. Specifically, taking the traveling salesman problem as the testbed problem, the performance of the solvers is assessed in five aspects, i.e., effectiveness, efficiency, stability, scalability, and generalization ability. Our results show that the solvers learned by NCO approaches, in general, still fall short of traditional solvers in nearly all these aspects. A potential benefit of NCO solvers would be their superior time and energy efficiency for small-size problem instances when sufficient training instances are available. Hopefully, this work would help with a better understanding of the strengths and weaknesses of NCO and provide a comprehensive evaluation protocol for further benchmarking NCO approaches in comparison to other approaches.

研究の動機と目的

• 組合せ最適化分野における神経系組合せ最適化（NCO）ソルバと従来のソルバの間の、きめ細やかで標準化された比較が不足しているという問題に対処すること。
• TSPを対象として、包括的な評価フレームワークを通じてNCOアプローチの限界と潜在的利点を同定すること。
• 将来的なNCO手法の評価を、従来のソルバと比較するためのベンチマークプロトコルを、複数のパフォーマンス次元にわたって確立すること。
• 訓練データの質と問題サイズが、NCOソルバのパフォーマンスに与える影響、特に限られたまたは古くなったインスタンスを含む実世界のシナリオにおいて、調査すること。
• 手作業で設計されたソルバと比較して、NCOソルバが大規模または多様なTSPインスタンスで競争力のあるパフォーマンスを達成できるかどうかを検討すること。

提案手法

• 本研究では、ノード数が50～10,000の多様なTSPインスタンスで訓練された、POMOやNeuroLKHを含む複数のNCOソルバを評価した。
• 5次元の評価プロトコルを適用した：効果性（解の質）、効率性（計算時間）、安定性（複数回の実行における一貫性）、スケーラビリティ（問題サイズに応じたパフォーマンス）、一般化能力（未学習の問題タイプにおけるパフォーマンス）。
• POMOの訓練は、方策勾配法を用いた深層強化学習で実施され、性能は保持された10,000インスタンスのセットで検証された。
• NeuroLKHは、学習モデルとLKHソルバを統合し、候補エッジ集合を生成することでLKHの探索空間を縮小しつつ、その最適化の強みを保った。
• 従来のソルバ（LKHやEAX）は、デフォルト設定だけでなく、公平な比較を確保するためのオープンソースツールを用いた自動パrameterチューニングを含めて評価された。
• ベンチマークには、ランダム、クラスタ型、実世界インスタンスを含む5つの異なるTSP問題タイプが含まれており、一般化能力と耐性を評価した。

実験結果

リサーチクエスチョン

• RQ1 異なるTSPインスタンスタイプとサイズにおいて、NCOソルバは従来のソルバと比べて解の質（効果性）でどの程度異なるか？
• RQ2 NCOソルバの訓練およびデプロイの計算効率とエネルギーコストは、従来のソルバと比べてどの程度か？
• RQ3 NCOソルバは、複数のランダムシードおよび問題インスタンスに対して、どの程度安定的かつ一貫性があるか？
• RQ4 NCOソルバは、大規模なTSPインスタンス（例：1,000～10,000ノード）において、従来のソルバと比較してどの程度スケーラブルか？
• RQ5 訓練データが限られたり古くなっている場合、NCOソルバは訓練分布外のインスタンスに対してどの程度一般化できるか？特にその場合のデータ品質依存性を評価する。

主な発見

• POMOやNeuroLKHを含むNCOソルバは、テストされたすべての問題サイズおよびタイプにおいて、LKH や EAX などの従来のソルバに比べ、巡回路長という観点から解の質（効果性）で一貫して劣ることが判明した。
• 問題サイズが大きくなるにつれて、NCOソルバと従来のソルバのパフォーマンスギャップが拡大し、100ノードインスタンスでは50ノードインスタンスよりもPOMOソルバの最適性ギャップが顕著に大きくなった。
• NCOソルバは、数時間から数日にもわたる大量の訓練時間を要するが、これはオフラインデプロイでは許容可能と見なされた。
• NCOソルバの主な利点は、十分な訓練データが利用可能な小規模なTSPインスタンス（例：50～100ノード）においてのみ顕在化し、その場合、時間的・エネルギー的効率性に優れた性能を示した。
• 訓練データがターゲット問題分布を適切に表現していない場合、NCOソルバのパフォーマンスは著しく低下し、データ品質に強く依存することが明らかになった。
• 特に自動構成ツールを用いたチューニングが施された従来のソルバは、デフォルト設定よりも顕著にパフォーマンスが向上し、手動チューニングがなくてもNCOソルバを上回った。