[论文解读] Fairness Amidst Non-IID Graph Data: A Literature Review

Wenbin Zhang, Shuigeng Zhou+2 more|arXiv (Cornell University)|Feb 15, 2022

Ethics and Social Impacts of AI被引用 7

一句话总结

本文首次全面综述了非独立同分布（non-i.i.d.）图数据中的公平性问题，弥合了传统基于独立同分布（i.i.d.）的公平性研究与图结构化数据之间的鸿沟。本文回顾了图学习中的公平性定义、方法、数据集和评估指标，指出在处理连续敏感属性、动态图以及领域特定公平性方面仍存在局限，并提出了未来研究方向，以构建以人为本、鲁棒且可解释的公平图学习系统。

ABSTRACT

The growing importance of understanding and addressing algorithmic bias in artificial intelligence (AI) has led to a surge in research on AI fairness, which often assumes that the underlying data is independent and identically distributed (IID). However, real-world data frequently exists in non-IID graph structures that capture connections among individual units. To effectively mitigate bias in AI systems, it is essential to bridge the gap between traditional fairness literature, designed for IID data, and the prevalence of non-IID graph data. This survey reviews recent advancements in fairness amidst non-IID graph data, including the newly introduced fair graph generation and the commonly studied fair graph classification. In addition, available datasets and evaluation metrics for future research are identified, the limitations of existing work are highlighted, and promising future directions are proposed.

研究动机与目标

• 为弥合传统公平性研究（基于i.i.d.数据假设）与现实世界图数据之间的关键差距，后者由于结构互联性而天然违反i.i.d.假设。
• 系统性地回顾并分类近期在图学习中关注公平性的进展，特别聚焦于非i.i.d.数据特性，如节点连通性和邻域影响。
• 识别并整理现有基准数据集与公平图学习的评估指标，以支持可复现且标准化的研究。
• 指出当前方法中的关键局限，包括对连续敏感属性处理不足、动态图演化应对不力，以及领域特定公平性挑战。
• 提出以以人为本的公平性定义、理论基础，以及与隐私和可解释性在图学习中融合为核心的未来研究方向。

提出的方法

• 将图学习中的公平性方法分类为个体层面公平与群体层面公平，依据利普希茨条件、排序、谱理论、拉普拉斯正则化和对抗学习等子类别。
• 提出一个涵盖五个维度的公平性方法分类体系：公平性概念、图类型、敏感属性类型、公平机制和评估方法。
• 回顾并整合近期方法，如基于谱理论的方法（例如，Kleindessner et al., 2019）、对抗学习方法（例如，Bose and Hamilton, 2019）以及反事实学习方法（例如，Agarwal et al., 2021）在群体公平性中的应用。
• 分析图结构对公平性的影响，表明即使输入数据均匀分布，图卷积网络（GCNs）中的邻域聚合仍可能放大偏见。
• 识别并评估现有基准数据集（例如，Cora、PubMed、COLLEGE、FEMNIST）和评估指标（例如，AUC、余弦相似度、Jaccard指数）在公平性评估中的应用。
• 通过强调公平性定义的外部验证需求以及与现实世界伤害的一致性，提出未来研究的框架。

实验结果

研究问题

• RQ1 图数据中i.i.i.d.假设的违反如何从根本上改变公平性的定义与度量方式，相较于传统机器学习？
• RQ2 确保图学习中公平性的关键方法论是什么？个体层面公平与群体层面公平的方法有何不同？
• RQ3 为何现有图学习中的公平性度量往往无法捕捉或合理解释现实世界中的伤害？需要什么来实现更好的外部验证？
• RQ4 如何有效将公平性扩展到连续敏感属性？尽管这类属性在现实应用中普遍存在，但当前图公平性研究对此关注甚少。
• RQ5 在动态图中确保公平性面临哪些独特挑战与开放问题？网络结构随时间演变时，是否存在长期歧视性结果的风险？

主要发现

• 图数据由于节点互联性而天然违反i.i.i.d.假设，导致结构偏见，即使输入数据分布均匀，也可能放大或继承社会歧视。
• 当前图学习中的公平性方法大多是对i.i.d.公平性概念的简单迁移，未能充分利用图特有的属性，如节点中心性、社区结构或邻域相似性。
• 对于为何具有相似图结构邻近的节点应获得相似预测，缺乏清晰的理论依据，这削弱了图学习场景下公平性定义的理论基础。
• 大多数现有研究聚焦于二值或离散化的敏感属性，对连续敏感属性关注极少，尽管后者在现实应用中极为普遍。
• 动态图公平性研究仍基本空白，存在疑问：是否时间连续的公平性强制可能导致长期歧视性结果？
• 在医疗等隐私敏感领域，特定领域的公平性研究仍严重不足，尤其在匿名化处理与时空相关性如何影响图结构数据中偏见传播方面缺乏深入探讨。