[论文解读] A Survey of Trustworthy Graph Learning: Reliability, Explainability, and Privacy Protection

Bingzhe Wu, Jintang Li+18 more|arXiv (Cornell University)|May 20, 2022

Advanced Graph Neural Networks被引用 9

一句话总结

本综述对可信图学习（TwGL）提供了全面且统一的回顾，聚焦于深度图学习中的可靠性、可解释性和隐私保护。它将前沿方法按这三个维度进行分类，分析了对抗性攻击和成员推断等威胁，并评估了差分隐私和安全多方计算等技术，为未来可信图神经网络（GNN）的发展奠定了基础。

ABSTRACT

Deep graph learning has achieved remarkable progresses in both business and scientific areas ranging from finance and e-commerce, to drug and advanced material discovery. Despite these progresses, how to ensure various deep graph learning algorithms behave in a socially responsible manner and meet regulatory compliance requirements becomes an emerging problem, especially in risk-sensitive domains. Trustworthy graph learning (TwGL) aims to solve the above problems from a technical viewpoint. In contrast to conventional graph learning research which mainly cares about model performance, TwGL considers various reliability and safety aspects of the graph learning framework including but not limited to robustness, explainability, and privacy. In this survey, we provide a comprehensive review of recent leading approaches in the TwGL field from three dimensions, namely, reliability, explainability, and privacy protection. We give a general categorization for existing work and review typical work for each category. To give further insights for TwGL research, we provide a unified view to inspect previous works and build the connection between them. We also point out some important open problems remaining to be solved in the future developments of TwGL.

研究动机与目标

• 为金融和医疗等风险敏感领域中日益增长的可信深度图学习（DGL）需求提供解决方案。
• 系统性地回顾图神经网络（GNN）在可靠性、可解释性和隐私保护方面的现有方法。
• 在统一框架下整合可信图学习中多样化的研究工作，并识别关键技术关联。
• 突出展示构建社会负责且符合监管要求的GNN系统中的开放问题与未来研究方向。

提出的方法

• 将现有可信图学习研究工作划分为三个核心维度：可靠性（对噪声、分布偏移和对抗性攻击的鲁棒性）、可解释性（模型解释与特征归因）以及隐私保护（成员推断和模型提取攻击）。
• 回顾对抗性防御技术，如图自编码器、鲁棒GNN架构和数据净化方法，以提升模型的抗干扰能力。
• 分析GNN可解释性方法，包括基于梯度、基于扰动和基于注意力的方法，以增强模型透明度。
• 分析图学习场景下的隐私威胁，如成员推断、属性推断和模型提取攻击。
• 评估隐私保护技术，包括用于梯度和嵌入保护的差分隐私（DP），以及用于联邦GNN训练中可证明安全性的安全多方计算（MPC）。
• 比较基于DP的方法在效用与隐私之间的权衡，以及基于MPC的方法在效率与安全性方面的表现。

实验结果

研究问题

• RQ1 如何使图神经网络对对抗性攻击、数据噪声和分布偏移具备鲁棒性？
• RQ2 哪些技术能够实现对GNN预测的忠实且人类可理解的解释？
• RQ3 图学习中的主要隐私威胁有哪些，包括成员推断和模型提取攻击？
• RQ4 差分隐私与安全多方计算在保护GNN中模型和数据隐私方面有何异同？
• RQ5 构建可信、可靠且隐私保护的图学习系统中的关键开放挑战是什么？

主要发现

• 对抗性攻击会显著降低GNN性能，而通过图自编码器、数据净化和架构修改可有效提升鲁棒性。
• 基于梯度和基于扰动的可解释性方法有助于识别关键节点和边，从而提升模型透明度。
• 成员推断攻击可利用发布的嵌入和黑盒访问，重构敏感图属性、拓扑结构和子图。
• 模型提取攻击可借助重构图和替代模型成功克隆GNN行为，尤其当攻击者拥有节点属性和连接信息时更为有效。
• 差分隐私提供正式的隐私保障，但通常因噪声注入而降低模型效用。
• 安全多方计算可在最小效用损失下实现可证明的隐私保护，但计算开销较高，尤其在GNN中的非线性运算中更为显著。