[论文解读] GCOMB: Learning Budget-constrained Combinatorial Algorithms over Billion-sized Graphs

Sahil Manchanda, Akash Mittal+4 more|arXiv (Cornell University)|Mar 8, 2019

Advanced Graph Neural Networks被引用 22

一句话总结

GCOMB 提出了一种可扩展的、预算受限的框架，用于在十亿规模图上学习组合算法，采用图卷积网络（GCN）结合概率性贪心机制和通过重要性采样增强的Q-learning框架。该方法在保持相近解质量的同时，相较于最先进方法实现了100倍的加速，且在影响最大化任务上相比IMM算法实现了150倍的加速。

ABSTRACT

There has been an increased interest in discovering heuristics for combinatorial problems on graphs through machine learning. While existing techniques have primarily focused on obtaining high-quality solutions, scalability to billion-sized graphs has not been adequately addressed. In addition, the impact of budget-constraint, which is necessary for many practical scenarios, remains to be studied. In this paper, we propose a framework called GCOMB to bridge these gaps. GCOMB trains a Graph Convolutional Network (GCN) using a novel probabilistic greedy mechanism to predict the quality of a node. To further facilitate the combinatorial nature of the problem, GCOMB utilizes a Q-learning framework, which is made efficient through importance sampling. We perform extensive experiments on real graphs to benchmark the efficiency and efficacy of GCOMB. Our results establish that GCOMB is 100 times faster and marginally better in quality than state-of-the-art algorithms for learning combinatorial algorithms. Additionally, a case-study on the practical combinatorial problem of Influence Maximization (IM) shows GCOMB is 150 times faster than the specialized IM algorithm IMM with similar quality.

研究动机与目标

• 为解决在十亿规模图上学习组合算法时存在的可扩展性差距问题。
• 将预算约束整合到基于机器学习的组合优化中，这对实际应用至关重要。
• 开发一种在显著提升推理速度的同时保持高解质量的框架。
• 在真实图和实际问题（如影响最大化）上评估该框架。

提出的方法

• GCOMB 使用图卷积网络（GCN）通过一种新颖的概率性贪心机制预测节点质量。
• 它整合了Q-learning框架，以建模组合选择中固有的序列决策过程。
• 通过应用重要性采样加速Q-learning训练，提升效率而不损失学习质量。
• 该框架联合优化预算约束下的节点选择，确保解的可行性和高质量。
• 训练流程结合了可微的GCN预测与强化学习，以优化选择策略。

实验结果

研究问题

• RQ1 基于机器学习的框架能否在预算约束下有效扩展至十亿规模图的组合优化？
• RQ2 概率性贪心节点评分与Q-learning的结合在多大程度上提升了解质量和训练效率？
• RQ3 GCOMB在速度和解质量方面相较于现有学习型及专用算法的优越程度如何？
• RQ4 GCOMB能否泛化到真实世界的组合问题，如影响最大化？

主要发现

• GCOMB 在十亿规模图上的最先进学习型组合算法上实现了100倍加速。
• 在影响最大化问题上，GCOMB 比专用的IMM算法快150倍，同时保持了相似的解质量。
• 该框架保持了高质量的解，与表现最佳的基线方法相比仅有轻微退化。
• 在Q-learning中使用重要性采样显著提升了训练效率，使框架能够扩展到大规模图。
• GCN中的概率性贪心机制为组合选择提供了稳定且有效的节点质量估计。