[論文レビュー] Graph Embedding for Combinatorial Optimization: A Survey

Yün Peng, Byron Choi+1 more|arXiv (Cornell University)|Aug 26, 2020

Advanced Graph Neural Networks被引用数 4

ひとこと要約

本サーベイは、組合せ最適化（CO）問題を解くためのグラフ埋め込み手法について包括的な概要を提供し、前処理技術と機械学習モデルに基づいてアプローチを分類している。グラフ埋め込みがCOタスクにおける有効な表現学習を可能にし、分類または探索アルゴリズムとの統合を通じて実現されることを示しており、今後の研究の主要な方向性を提示している。

ABSTRACT

Graphs have been widely used to represent complex data in many applications, such as e-commerce, social networks, and bioinformatics. Efficient and effective analysis of graph data is important for graph-based applications. However, most graph analysis tasks are combinatorial optimization (CO) problems, which are NP-hard. Recent studies have focused a lot on the potential of using machine learning (ML) to solve graph-based CO problems. Using ML- based CO methods, a graph has to be represented in numerical vectors, which is known as graph embedding. In this survey, we provide a thorough overview of recent graph embedding methods that have been used to solve CO problems. Most graph embedding methods have two stages: graph preprocessing and ML model learning. This survey classifies graph embedding works from the perspective of graph preprocessing tasks and ML models. Furthermore, this survey summarizes recent graph-based CO methods that exploit graph embedding. In particular, graph embedding can be employed as part of classification techniques or can be combined with search methods to find solutions to CO problems. The survey ends with several remarks on future research directions.

研究の動機と目的

• 最近の組合せ最適化（CO）問題に用いられるグラフ埋め込み手法を体系的に分類すること。
• 埋め込みに基づくCOソリューションにおけるグラフ前処理と機械学習モデルの役割を分析すること。
• グラフ埋め込みが分類および探索ベースのCOフレームワークにどのように応用されるかを要約すること。
• 埋め込み駆動型COにおけるギャップを特定し、今後の研究方向性を提案すること。

提案手法

• グラフ埋め込み研究を、ノード特徴量のエンジニアリングやグラフ構造の変更などの前処理タスクに基づいて分類する。
• 機械学習モデルを、ディープオートエンコーダ、グラフニューラルネットワーク、および手作業特徴量に適用された従来の機械学習モデルに分類する。
• 埋め込みの生成およびCOパイプライン内での使用方法を分析する手法を採用し、特にNP困難問題を学習可能な表現に還元する点に注目する。
• eコマース、ソーシャルネットワーク、バイオインフォマティクスなどの複数分野の知見を統合し、実世界応用の実例を提示する。
• 強化学習やヒューリスティック探索などの探索ベースのCO手法と埋め込みを統合する方法を検討し、ソリューション探索を支援する。
• 前処理の後、モデル学習に進む二段階ワークフローを基軸に分析を行い、エンド・ツー・エンド最適化に重点を置く。

実験結果

リサーチクエスチョン

• RQ1 異なるグラフ前処理技術は、CO問題における埋め込みの品質にどのように影響するか？
• RQ2 COタスクのパフォーマンスを支援する埋め込みを学習するのに最も効果的な機械学習モデルは何か？
• RQ3 グラフ埋め込みは、NP困難なCO問題を解くために探索アルゴリズムとどのように統合できるか？
• RQ4 スケーラビリティと正確性の観点から、埋め込みベースの手法は従来のCOアプローチとどのように比較できるか？
• RQ5 埋め込み駆動型組合せ最適化における主な課題と未解決の研究方向性は何か？

主な発見

• グラフ埋め込み手法は、複雑なグラフ構造の表現を著しく向上させ、CO問題のより効果的なモデリングを可能にする。
• 現在の埋め込みベースCO研究において、前処理の後に機械学習モデルの学習を行う二段階パイプラインが主流なフレームワークである。
• グラフニューラルネットワークとオートエンコーダは、タスク固有の埋め込みを学習するのに最も効果的なモデルの一つである。
• 埋め込みは分類の入力特徴量として、および強化学習におけるポリシー表現として、両方の文脈で成功裏に利用されている。
• ヒューリスティックまたはメタヒューリスティック探索手法と埋め込みを統合することで、NP困難問題におけるソリューション品質と収束速度が向上する。
• 進展はあるが、解釈可能性、ドメイン間での一般化、大規模グラフへのスケーラビリティの面で課題が残っている。