[論文レビュー] How to Evaluate Machine Learning Approaches for Combinatorial Optimization: Application to the Travelling Salesman Problem

Antoine François, Quentin Cappart+1 more|arXiv (Cornell University)|Sep 28, 2019

Metaheuristic Optimization Algorithms Research参考文献 32被引用数 11

ひとこと要約

本論文は、組合せ最適化モデルにおける機械学習部の正確性を分離して測定するための新しい評価指標、最適意思決定の割合（ROD）を導入する。特にTSP（巡回セールスマン問題）に対して適用される。現在の最先端のMLモデルでさえも約1.33%の最適性ギャップにとどまっているが、RODは、それらの学習部が非常に正確なオラクルと同等の性能を示していることを示しており、性能向上の焦点は学習モデルそのものではなく、探索手順の改善にあるべきであることを示唆している。

ABSTRACT

Combinatorial optimization is the field devoted to the study and practice of algorithms that solve NP-hard problems. As Machine Learning (ML) and deep learning have popularized, several research groups have started to use ML to solve combinatorial optimization problems, such as the well-known Travelling Salesman Problem (TSP). Based on deep (reinforcement) learning, new models and architecture for the TSP have been successively developed and have gained increasing performances. At the time of writing, state-of-the-art models provide solutions to TSP instances of 100 cities that are roughly 1.33% away from optimal solutions. However, despite these apparently positive results, the performances remain far from those that can be achieved using a specialized search procedure. In this paper, we address the limitations of ML approaches for solving the TSP and investigate two fundamental questions: (1) how can we measure the level of accuracy of the pure ML component of such methods; and (2) what is the impact of a search procedure plugged inside a ML model on the performances? To answer these questions, we propose a new metric, ratio of optimal decisions (ROD), based on a fair comparison with a parametrized oracle, mimicking a ML model with a controlled accuracy. All the experiments are carried out on four state-of-the-art ML approaches dedicated to solve the TSP. Finally, we made ROD open-source in order to ease future research in the field.

研究の動機と目的

• 組合せ最適化における機械学習部の公平な評価の欠如、特にTSPソルバーにおいて解決する。
• 学習と探索の貢献を分離する。
• 探索ヒューリスティクスとは独立して、MLモデルの内在的正確性を評価するための標準化されたオープンソース指標（ROD）を提案する。
• 実証的に、現在のTSP用MLモデルの性能制限要因は学習の質ではなく、探索手順の設計にあることを示す。
• 今後の研究の方向性を、モデルの再トレーニングではなく探索手順の改善に向ける。

提案手法

• パラメータ化されたオラクルに基づくRODという指標を提案し、制御された意思決定正確性を持つMLモデルを模倣する。
• オラクルを用いて、モデルがとった最適意思決定の割合を、正確性が既知のベンチマークと比較する。
• Koolら、Joshiら、Deudonら、Khalilらの4つの最先端のTSP用深層学習モデルにRODを適用する。
• 探索手順（例：ビームサーチ、2-OPT、LK、3-OPT）の有無にかかわらずモデルを評価し、探索の影響を分離する。
• 100頂点のTSPインスタンス1000件を用い、最適性ギャップと実行時間を指標に性能を測定する。
• ROD指標をオープンソース化し、COPにおけるMLの再現性と今後のベンチマーク作成を促進する。

実験結果

リサーチクエスチョン

• RQ1 探索手順に依存しない形で、組合せ最適化におけるMLモデルの学習部を公平に評価する方法は何か？
• RQ2 現在のMLベースのTSPソルバーの性能は、学習部の質と探索手順の質のどちらに依存しているか？
• RQ3 制御されたオラクルベンチマークを用いて、学習モデルがとった個々の意思決定の正確性を定量化できるか？
• RQ4 ビームサーチ、LK、2-OPTなどの異なる探索手順が、MLベースのTSPモデルの最終的解の質に与える相対的影響は何か？
• RQ5 最先端モデルの学習部は、すでにオラクル水準の性能に近づいているため、今後の改善は探索手順に注力すべきではないか？

主な発見

• 最先端TSPモデルの学習部は、90%の正確性を持つオラクルと同等の水準で動作しており、強力な内在的学習能力を示している。
• 7.05%の最適性ギャップでさえも、最高性能モデル（Joshiら）のRODスコアは0.91に達しており、個々のステップでの意思決定がほぼ最適に近いことが示された。
• 探索手順の統合により、ビームサーチにLKヒューリスティクスを組み合わせた場合、最適性ギャップは7.05%から0.24%にまで低下し、探索による劇的な性能向上が確認された。
• 16ビームのビームサーチにLKローカルサーチを組み合わせることで、最高性能モデルのギャップは7.05%から0.24%に改善され、探索の支配的役割が明確になった。
• 異なるモデルは同じ探索手順に対して異なる反応を示しており、探索手順の設計はモデル依存であり、単純ではないことが示された。
• RODのオープンソース化により、COPにおけるハイブリッド学習-探索アプローチの標準化評価と今後の開発が可能になった。