[论文解读] AutoGL: A Library for Automated Graph Learning

Ziwei Zhang, Yijian Qin+12 more|arXiv (Cornell University)|Apr 11, 2021

Advanced Graph Neural Networks被引用 12

一句话总结

AutoGL 是首个专注于图结构自动化机器学习的开源库，提供模块化、可扩展的框架，采用三层架构，支持自动特征工程、神经架构搜索、超参数优化、模型训练及自动集成。它与 PyTorch Geometric 和 DGL 集成，可在十余行代码内实现快速实验，并引入 NAS-Bench-Graph——首个图神经架构搜索的表格化基准，实现可复现且高效的神经架构搜索，计算成本极低。

ABSTRACT

Recent years have witnessed an upsurge in research interests and applications of machine learning on graphs. However, manually designing the optimal machine learning algorithms for different graph datasets and tasks is inflexible, labor-intensive, and requires expert knowledge, limiting its adaptivity and applicability. Automated machine learning (AutoML) on graphs, aiming to automatically design the optimal machine learning algorithm for a given graph dataset and task, has received considerable attention. However, none of the existing libraries can fully support AutoML on graphs. To fill this gap, we present Automated Graph Learning (AutoGL), the first dedicated library for automated machine learning on graphs. AutoGL is open-source, easy to use, and flexible to be extended. Specifically, we propose a three-layer architecture, consisting of backends to interface with devices, a complete automated graph learning pipeline, and supported graph applications. The automated machine learning pipeline further contains five functional modules: auto feature engineering, neural architecture search, hyper-parameter optimization, model training, and auto ensemble, covering the majority of existing AutoML methods on graphs. For each module, we provide numerous state-of-the-art methods and flexible base classes and APIs, which allow easy usage and customization. We further provide experimental results to showcase the usage of our AutoGL library. We also present AutoGL-light, a lightweight version of AutoGL to facilitate customizing pipelines and enriching applications, as well as benchmarks for graph neural architecture search. The codes of AutoGL are publicly available at https://github.com/THUMNLab/AutoGL.

研究动机与目标

• 为解决图结构自动化机器学习领域缺乏专用、全面的库的问题。
• 减少在不同数据集和任务上设计最优图学习算法所需的手动操作与专家知识。
• 支持在自动化图学习中实现灵活、可扩展且可复现的研究与应用开发。
• 提供统一、用户友好的框架，兼容主流图学习库如 PyTorch Geometric 和 DGL。
• 推出 NAS-Bench-Graph——首个图神经架构搜索的表格化基准，确保 NAS 方法的可复现性与高效比较。

提出的方法

• AutoGL 实现了三层架构：用于设备接口的后端（PyTorch Geometric 与 DGL）、完整的自动化图学习流水线，以及支持的图应用。
• 流水线包含五个核心模块：自动特征工程、神经架构搜索（NAS）、超参数优化（HPO）、模型训练与自动集成，每个模块均配备标准化基类与 API。
• AutoGL Solver 作为高层 API，协调完整工作流，将复杂配置抽象为简洁、可组合的接口。
• 该库支持多种图任务，包括节点分类、链接预测、图分类、自监督学习、鲁棒学习以及异构节点分类。
• NAS-Bench-Graph 作为性能评估器集成，预先计算并存储了在九个基准数据集上 26,206 种唯一 GNN 架构的指标。
• AutoGL-light 是 AutoGL 的轻量级、模块化版本，专为快速原型设计与新流水线的轻松定制而构建。

实验结果

研究问题

• RQ1 如何通过统一、可扩展且用户友好的库，系统性地支持图结构上的自动化机器学习？
• RQ2 何种架构设计可实现现有图学习库（如 PyTorch Geometric 与 DGL）在 AutoML 框架中的高效集成？
• RQ3 图神经架构搜索的表格化基准能否提升 NAS 研究的可复现性与效率？
• RQ4 AutoGL 如何使用户能以极少代码与计算开销完成端到端的自动化图学习？
• RQ5 将 NAS-Bench-Graph 与 AutoGL 集成，能在多大程度上加速并标准化图神经网络的神经架构搜索？

主要发现

• AutoGL 使用户仅需不到十行代码即可完成自动化图学习，显著降低了研究人员与实践者的入门门槛。
• 该库支持覆盖自动特征工程、NAS、HPO、模型训练与自动集成的完整流水线，整合了各模块的最先进方法。
• NAS-Bench-Graph 为九个多样化数据集上的 26,206 种唯一 GNN 架构提供了预计算的性能指标，实现快速且可复现的 NAS。
• 借助 NAS-Bench-Graph，AutoGL 通过使用基准中的性能估计替代完整训练，使 NAS 以极低计算成本运行。
• NAS-Bench-Graph 与 AutoGL 的集成，使 GraphNAS 与 AutoGNN 等 NAS 方法可直接比较并实现可复现的评估，相关结果可在 GitHub 上复现。
• AutoGL-light 为自定义流水线开发提供了模块化、可扩展且轻量的替代方案，显著增强了高级用户的工作灵活性。