[论文解读] Graph Learning and Its Advancements on Large Language Models: A Holistic Survey

Shaopeng Wei, Wang, Jun+7 more|arXiv (Cornell University)|Dec 17, 2022

Advanced Graph Neural Networks被引用 4

一句话总结

本综述全面、系统地回顾了图学习与大语言模型（LLMs）融合的最新进展，提出了一种基于图结构要素（节点、边、拓扑）的分类体系，并分析了相关方法、应用场景及挑战。综述强调了LLMs如何增强图表示学习，以及图学习如何提升LLM的推理能力，尤其体现在知识图谱集成与检索增强生成方面。

ABSTRACT

Graph learning is a prevalent domain that endeavors to learn the intricate relationships among nodes and the topological structure of graphs. Over the years, graph learning has transcended from graph theory to graph data mining. With the advent of representation learning, it has attained remarkable performance in diverse scenarios. Owing to its extensive application prospects, graph learning attracts copious attention. While some researchers have accomplished impressive surveys on graph learning, they failed to connect related objectives, methods, and applications in a more coherent way. As a result, they did not encompass current ample scenarios and challenging problems due to the rapid expansion of graph learning. Particularly, large language models have recently had a disruptive effect on human life, but they also show relative weakness in structured scenarios. The question of how to make these models more powerful with graph learning remains open. Our survey focuses on the most recent advancements in integrating graph learning with pre-trained language models, specifically emphasizing their application within the domain of large language models. Different from previous surveys on graph learning, we provide a holistic review that analyzes current works from the perspective of graph structure, and discusses the latest applications, trends, and challenges in graph learning. Specifically, we commence by proposing a taxonomy and then summarize the methods employed in graph learning. We then provide a detailed elucidation of mainstream applications. Finally, we propose future directions.

研究动机与目标

• 为解决当前缺乏将图学习与大语言模型（LLMs）在统一框架下整合的连贯、最新综述的问题。
• 提供一个全面的图学习方法分类体系，涵盖传统方法与基于深度学习的方法，重点关注节点、边和图拓扑等结构组件。
• 分析近期将LLMs与图学习结合的进展，尤其在知识抽取、推理以及克服LLM局限性（如幻觉现象和缺乏结构化知识）方面的应用。
• 考察在知识图谱、推荐系统和科学发现等领域的新兴应用，同时识别公平性、隐私性和可扩展性方面的关键挑战。
• 勾勒图学习与LLM在现实世界、结构化场景中协同发展的未来研究方向。

提出的方法

• 提出一种基于图基本元素（节点、边、图结构）的新型图学习方法分类体系，实现对传统方法与深度学习技术的统一视图。
• 将图学习方法划分为嵌入式与非嵌入式两类，子类包括矩阵分解、随机游走，以及基于深度学习的模型（如GNN和图自编码器）。
• 分析预训练语言模型（PLMs）和LLMs与图学习的融合，重点关注两种主要范式：将LLMs用作知识提取器，以及利用知识图谱增强LLMs。
• 综述近期混合架构，如结合知识图谱的检索增强生成（RAG），以及图增强LLMs，以提升事实一致性和推理能力。
• 探讨图学习中的公平性与隐私性问题，包括对抗性去偏、公平性约束，以及隐私保护技术如图扰动（例如NetFense）和联邦图神经网络（例如FedPerGNN）。
• 整合当前在企业知识图谱、电子商务、科学发现和计算机视觉中的应用，强调跨模态与结构化推理任务。

实验结果

研究问题

• RQ1 如何系统性地整合图学习与大语言模型，以提升LLM的推理能力与事实一致性？
• RQ2 在知识抽取与表征学习方面，图学习的关键方法进展有哪些，能够有效支持与LLM的融合？
• RQ3 在部署图-LLM系统时，公平性与隐私性的主要挑战是什么？已提出哪些防御机制？
• RQ4 近期混合架构（如图增强LLMs、结合KG的RAG）在结构化或知识密集型任务中为何优于标准LLMs？
• RQ5 图学习在大语言模型时代下的新兴应用领域与未来研究方向有哪些？

主要发现

• 图学习相关论文数量迅速增长，2022年在顶级会议与期刊上发表的论文已达1,115篇，反映出该领域的快速发展与日益增长的研究兴趣。
• 近期LLMs与图学习的融合主要呈现两大趋势：利用LLMs从非结构化文本中提取结构化知识，以及利用知识图谱增强LLM的推理能力并减少幻觉现象。
• 图神经网络（GNN）的公平性面临数据层面偏见（如人口统计差异）与图结构特异性偏见的双重挑战，已有解决方案包括对抗性去偏与个性化公平性约束。
• 隐私保护技术如NetFense与FedPerGNN能有效缓解对GNN的隐私攻击，通过图扰动或支持去中心化训练，在保持模型效用的同时提升安全性。
• 图学习方法正越来越多地应用于社交网络之外的领域，如科学发现、电子商务与视觉任务，通常通过将表格或文本数据转化为图结构表示来实现。
• 尽管已取得进展，图-LLM模型在可扩展性、可解释性与泛化能力方面仍面临挑战，尤其在现实世界中动态、异构的环境中。