[論文レビュー] Graph Learning for Combinatorial Optimization: A Survey of State-of-the-Art

Yün Peng, Byron Choi+1 more|arXiv (Cornell University)|Aug 26, 2020

Advanced Graph Neural Networks参考文献 88被引用数 6

ひとこと要約

本調査は、組合せ最適化（CO）問題を解くためのグラフ学習手法について包括的な概要を提供しており、最近の手法を二段階フレームワークに分類している：まずグラフ表現学習（グラフ埋め込みまたはエンドツーエンド学習を介して）、次に非自己回帰的または自己回帰的手法を用いた解の予測。主な貢献は、最先端技術の体系的分類であり、そのメカニズム、限界、一般化、タスク固有の設計、従来のヒューリスティクスとの統合に関する未解決の研究方向性を強調している。

ABSTRACT

Graphs have been widely used to represent complex data in many applications. Efficient and effective analysis of graphs is important for graph-based applications. However, most graph analysis tasks are combinatorial optimization (CO) problems, which are NP-hard. Recent studies have focused a lot on the potential of using machine learning (ML) to solve graph-based CO problems. Most recent methods follow the two-stage framework. The first stage is graph representation learning, which embeds the graphs into low-dimension vectors. The second stage uses ML to solve the CO problems using the embeddings of the graphs learned in the first stage. The works for the first stage can be classified into two categories, graph embedding (GE) methods and end-to-end (E2E) learning methods. For GE methods, learning graph embedding has its own objective, which may not rely on the CO problems to be solved. The CO problems are solved by independent downstream tasks. For E2E learning methods, the learning of graph embeddings does not have its own objective and is an intermediate step of the learning procedure of solving the CO problems. The works for the second stage can also be classified into two categories, non-autoregressive methods and autoregressive methods. Non-autoregressive methods predict a solution for a CO problem in one shot. A non-autoregressive method predicts a matrix that denotes the probability of each node/edge being a part of a solution of the CO problem. The solution can be computed from the matrix. Autoregressive methods iteratively extend a partial solution step by step. At each step, an autoregressive method predicts a node/edge conditioned to current partial solution, which is used to its extension. In this survey, we provide a thorough overview of recent studies of the graph learning-based CO methods. The survey ends with several remarks on future research directions.

研究の動機と目的

• グラフ上のNP困難な組合せ最適化問題を解くための最近の機械学習ベースのアプローチを体系的にレビューすること。
• 現在のグラフ学習ベースのCO手法で一般的に用いられる二段階フレームワーク（グラフ表現学習 → 解の予測）を分類・分析すること。
• 多様なCO問題における一般化、損失関数設計、モデルアーキテクチャの適合性に関する主な課題を特定すること。
• グローバルなグラフ構造の符号化、従来のヒューリスティクスとの統合、大規模グラフ集合へのスケーリングといった、未解決の研究課題を浮き彫りにすること。

提案手法

• グラフ表現学習を二種類に分類：独立した目的関数を持つグラフ埋め込み手法と、COタスクと同時に最適化されるエンドツーエンド学習手法。
• 解の予測を非自己回帰的手法（確率行列を用いて1ステップで解行列を予測）と自己回帰的手法（部分解を段階的に拡張）に分類。
• グラフ符号化のための主な技術をレビュー：SkipGramベースの手法、オートエンコーダベースの手法、GNNベースの表現。
• 部分解の拡張をガイドするためのヒューリスティクス探索や強化学習の使用を分析。
• 交差エントロピーなどの損失関数と、特にTSPのような問題では小さな構造的変更が解の品質に大きく影響するため、CO問題の目的を正しく捉えるのが難しいという限界を検討。
• 今後の手法的方針として、タスク固有の損失関数の設計や、従来のヒューリスティクス操作（例：2-opt、遠くの挿入）を学習パイプラインに統合することを提案。

実験結果

リサーチクエスチョン

• RQ1 グラフ表現学習手法は、その目的と後続の組合せ最適化タスクへの適用可能性においてどのように異なるか？
• RQ2 グラフベースのCOにおける非自己回帰的および自己回帰的手法の主な違いとトレードオフは何か？
• RQ3 なぜ現在の学習ベースのCO手法は、従来のヒューリスティクスと比較して、大規模または未学習のグラフに対して一般化に失敗する傾向にあるのか？
• RQ4 従来のヒューリスティクスアルゴリズムをCO問題の機械学習パイプラインに効果的に統合するにはどうすればよいか？
• RQ5 グラフ学習ベースのCO手法の一般化性とスケーラビリティを向上させるために、最も有望な方向性は何か？

主な発見

• 非自己回帰的手法は1ステップで解行列を予測し、ビームサーチなどのヒューリスティクスを用いて解を導出する。これにより高速な推論が可能だが、最適解ではない可能性がある。
• 自己回帰的手法は強化学習やヒューリスティクス探索を用いて部分解を段階的に拡張する。これにより高い解品質が得られるが、推論時間が長くなる。
• エンドツーエンド学習手法はCOタスクに特化したグラフ埋め込みを学習するが、グラフ埋め込み手法は固定された事前学習済み表現を用いるため、性能のトレードオフが生じる。
• 現在の手法は、大規模または未学習のグラフにおいて、従来のヒューリスティクスに劣ることが多く、学習パイプラインにおける一般化性の向上が急務であることを示している。
• 2-optや遠くの挿入といった従来のヒューリスティクスを学習モデルに統合することで、TSP応用例で示されるように解の品質が顕著に向上する。
• 標準的な損失関数（例：交差エントロピー）では、TSPのようなCO問題の真の目的を正しく反映できないため、問題固有の損失関数の設計が不可欠である。