[论文解读] Automated Graph Machine Learning: Approaches, Libraries, Benchmarks and Directions

Xin Wang, Ziwei Zhang+2 more|arXiv (Cornell University)|Jan 4, 2022

Advanced Graph Neural Networks被引用 6

一句话总结

本文全面综述了自动化图机器学习，重点聚焦于图神经网络的超参数优化（HPO）与神经架构搜索（NAS）。提出了AutoGL，这是全球首个专用于自动化图机器学习的开源库，并概述了关键挑战与未来研究方向，包括可扩展性、可解释性以及硬件感知设计。

ABSTRACT

Graph machine learning has been extensively studied in both academic and industry. However, as the literature on graph learning booms with a vast number of emerging methods and techniques, it becomes increasingly difficult to manually design the optimal machine learning algorithm for different graph-related tasks. To tackle the challenge, automated graph machine learning, which aims at discovering the best hyper-parameter and neural architecture configuration for different graph tasks/data without manual design, is gaining an increasing number of attentions from the research community. In this paper, we extensively discuss automated graph machine learning approaches, covering hyper-parameter optimization (HPO) and neural architecture search (NAS) for graph machine learning. We briefly overview existing libraries designed for either graph machine learning or automated machine learning respectively, and further in depth introduce AutoGL, our dedicated and the world's first open-source library for automated graph machine learning. Also, we describe a tailored benchmark that supports unified, reproducible, and efficient evaluations. Last but not least, we share our insights on future research directions for automated graph machine learning. This paper is the first systematic and comprehensive discussion of approaches, libraries as well as directions for automated graph machine learning.

研究动机与目标

• 为解决在多样化任务中设计最优图机器学习模型所面临的日益复杂的挑战与手动工作量。
• 系统化并综述现有自动化图机器学习方法，特别是HPO与NAS。
• 提出AutoGL，首个专为自动化图机器学习设计的开源库。
• 识别自动化图机器学习中的关键挑战与未来研究方向，包括可扩展性、可解释性与鲁棒性。
• 推动学术界与工业界在自动化图机器学习中的采用与进步。

提出的方法

• 综述并分类现有自动化图机器学习方法，重点关注HPO与NAS。
• 提出AutoGL，一个专门的开源框架，支持图神经网络的自动化HPO与NAS。
• 设计AutoGL时采用可扩展组件，涵盖搜索空间、搜索策略与图学习中的性能估计。
• 基于搜索空间设计、搜索策略（如强化学习、进化算法）与性能估计技术，对比不同NAS方法。
• 提出系统化的自动化图机器学习评估框架，强调需要超越Cora与PubMed等传统数据集的全面基准。
• 将硬件感知设计原则整合到自动化图机器学习中，以提升实际部署中的效率与可扩展性。

实验结果

研究问题

• RQ1 自动化图机器学习如何减少在设计最优GNN架构与超参数方面所需的手动工作量？
• RQ2 在大规模图数据集与真实应用场景中，HPO与NAS的可扩展性面临哪些关键挑战？
• RQ3 在高风险敏感领域中，如何提升自动化图机器学习系统的可解释性与鲁棒性？
• RQ4 图模型在超越“仅将AutoML应用于图”之外，还能在增强AutoML流程中发挥何种作用？
• RQ5 如何制定全面的评估协议，以公平比较多样化基准下的自动化图机器学习方法？

主要发现

• AutoGL是全球首个专为自动化图机器学习设计的开源库，支持HPO与NAS，并具备可扩展组件。
• 现有图HPO方法（如贝叶斯优化）因计算成本高而面临可扩展性限制，尤其在大规模图上表现更明显。
• 尽管NAS在图学习中潜力巨大，但相关研究仍较少，且缺乏对大规模图数据集可扩展性的系统探索。
• 当前基准（如Cora、CiteSeer、PubMed）不足以评估图AutoML方法，亟需开发更全面的新基准。
• 可解释性与分布外泛化仍是重大挑战，针对为何某些NAS或HPO配置表现更优的系统性研究仍有限。
• 硬件感知设计正成为关键研究方向，但将硬件感知模型集成到图AutoML流水线中仍处于早期阶段。