[论文解读] Graph Embedding for Combinatorial Optimization: A Survey

Yün Peng, Byron Choi+1 more|arXiv (Cornell University)|Aug 26, 2020

Advanced Graph Neural Networks被引用 4

一句话总结

本综述全面概述了用于解决图中组合优化（CO）问题的图嵌入方法，按预处理技术与机器学习模型对方法进行分类。它展示了图嵌入如何通过分类或与搜索算法集成，实现对CO任务的有效表征学习，并为未来研究指明了关键方向。

ABSTRACT

Graphs have been widely used to represent complex data in many applications, such as e-commerce, social networks, and bioinformatics. Efficient and effective analysis of graph data is important for graph-based applications. However, most graph analysis tasks are combinatorial optimization (CO) problems, which are NP-hard. Recent studies have focused a lot on the potential of using machine learning (ML) to solve graph-based CO problems. Using ML- based CO methods, a graph has to be represented in numerical vectors, which is known as graph embedding. In this survey, we provide a thorough overview of recent graph embedding methods that have been used to solve CO problems. Most graph embedding methods have two stages: graph preprocessing and ML model learning. This survey classifies graph embedding works from the perspective of graph preprocessing tasks and ML models. Furthermore, this survey summarizes recent graph-based CO methods that exploit graph embedding. In particular, graph embedding can be employed as part of classification techniques or can be combined with search methods to find solutions to CO problems. The survey ends with several remarks on future research directions.

研究动机与目标

• 系统性地对近期用于组合优化（CO）问题的图嵌入方法进行分类。
• 分析图预处理与机器学习模型在基于嵌入的CO解决方案中的作用。
• 总结图嵌入在分类与基于搜索的CO框架中的应用方式。
• 识别研究空白并提出基于嵌入的CO未来研究方向。

提出的方法

• 该综述根据图预处理任务（如节点特征工程与图结构修改）对图嵌入工作进行分类。
• 将机器学习模型划分为若干类别，包括深度自编码器、图神经网络以及应用于手工特征的传统机器学习模型。
• 该方法涉及分析嵌入在CO流程中如何生成与使用，特别是在将NP难问题转化为可学习表征方面。
• 该综述整合了来自多个领域（包括电子商务、社交网络与生物信息学）的研究成果，以说明其在现实世界中的适用性。
• 研究了嵌入与基于搜索的CO方法（如强化学习或启发式搜索）的集成，以指导解决方案探索。
• 分析围绕两阶段工作流展开：预处理后接模型学习，强调端到端优化。

实验结果

研究问题

• RQ1 不同的图预处理技术在多大程度上影响CO问题嵌入的质量？
• RQ2 哪些机器学习模型在学习支持CO任务性能的嵌入方面最为有效？
• RQ3 图嵌入可通过何种方式与搜索算法集成，以求解NP难的CO问题？
• RQ4 基于嵌入的方法在可扩展性与准确性方面与传统CO方法相比如何？
• RQ5 在基于嵌入的组合优化中，关键挑战与开放研究方向是什么？

主要发现

• 图嵌入方法显著提升了对复杂图结构的表征能力，使CO问题的建模更加有效。
• 当前基于嵌入的CO研究中，以预处理后接机器学习模型训练的两阶段流程为主导框架。
• 图神经网络与自编码器是学习任务特定嵌入的最有效模型之一。
• 嵌入既可作为分类任务的输入特征，也可作为强化学习中策略的表征，在CO中取得成功应用。
• 将嵌入与启发式或元启发式搜索方法结合，可提升NP难问题的解质量与收敛速度。
• 尽管已有进展，但在可解释性、跨领域泛化能力以及大规模图的可扩展性方面仍存在挑战。