[论文解读] Holistic Survey of Privacy and Fairness in Machine Learning

Sina Shaham, Arash Hajisafi+7 more|arXiv (Cornell University)|Jul 28, 2023

Privacy-Preserving Technologies in Data被引用 4

一句话总结

本文对监督学习、无监督学习、半监督学习和强化学习中的机器学习隐私与公平性进行了全面、整体性的综述。它分析了隐私与公平性之间的相互作用，回顾了同时优化两个目标的现有架构与算法，并在最小化效用损失的前提下，识别出关键挑战，尤其是在大语言模型中的挑战。

ABSTRACT

Privacy and fairness are two crucial pillars of responsible Artificial Intelligence (AI) and trustworthy Machine Learning (ML). Each objective has been independently studied in the literature with the aim of reducing utility loss in achieving them. Despite the significant interest attracted from both academia and industry, there remains an immediate demand for more in-depth research to unravel how these two objectives can be simultaneously integrated into ML models. As opposed to well-accepted trade-offs, i.e., privacy-utility and fairness-utility, the interrelation between privacy and fairness is not well-understood. While some works suggest a trade-off between the two objective functions, there are others that demonstrate the alignment of these functions in certain scenarios. To fill this research gap, we provide a thorough review of privacy and fairness in ML, including supervised, unsupervised, semi-supervised, and reinforcement learning. After examining and consolidating the literature on both objectives, we present a holistic survey on the impact of privacy on fairness, the impact of fairness on privacy, existing architectures, their interaction in application domains, and algorithms that aim to achieve both objectives while minimizing the utility sacrificed. Finally, we identify research challenges in achieving privacy and fairness concurrently in ML, particularly focusing on large language models.

研究动机与目标

• 为弥合对隐私与公平性在机器学习中相互关系的理解鸿沟，尽管二者在可信人工智能中均扮演关键角色，但该关系仍研究不足。
• 整合并分析现有方法，以在机器学习中融合隐私与公平性，涵盖多种学习范式中的预处理、在处理和后处理技术。
• 考察隐私如何影响公平性，反之亦然，识别不同机器学习场景下的权衡与对齐。
• 识别开放的研究挑战，特别是在大语言模型中，隐私与公平性仍是紧迫但研究不足的问题。
• 提供一个统一框架，以在最小化效用损失的同时，实现在机器学习流程中同时达成隐私与公平性。

提出的方法

• 对150余篇关于机器学习中隐私与公平性的文献进行系统性综述，将方法分类为预处理、在处理和后处理策略。
• 将在处理技术分类为对抗性正则化器（例如，用于敏感属性不变性的对抗性判别器）和公平性正则化器（例如，基于无偏图或反事实公平性的正则化）。
• 分析半监督学习（SSL）方法，包括FairGNN，其利用对抗学习使节点嵌入对敏感属性保持不变。
• 评估后处理技术，如AdaFair和Fair Boosting，通过重新加权样本或重采样数据，以确保统计独立性并减少群体差异。
• 提出一种图神经网络中的反事实公平性框架，通过生成并比较敏感属性被修改的反事实节点表示。
• 整合评估指标如Benefit Ratio，以量化半监督学习中子群体准确率的提升，实现公平性感知的模型评估。

Figure 1. Computation of discrimination based on different metrics.

实验结果

研究问题

• RQ1 隐私与公平性在机器学习中如何相互作用？在哪些场景下它们会冲突或对齐？
• RQ2 哪些最有效的架构与算法能够同时优化隐私与公平性，同时最小化效用损失？
• RQ3 现有预处理、在处理和后处理技术在不同学习范式（包括半监督学习和强化学习）中的表现如何？
• RQ4 在大语言模型中，联合实现隐私与公平性的关键挑战是什么？
• RQ5 在基于图和表格的机器学习模型中，强制实施隐私约束时，公平性度量（如统计独立性和均等机会）能在多大程度上得以保持？

主要发现

• 图神经网络中的对抗性正则化器（如FairGNN）通过训练判别器以预测敏感特征并最小化其准确率，成功降低了节点嵌入对受保护属性的敏感性。
• 基于无偏图的公平性正则化器能有效惩罚学习嵌入与公平性保持参考图的偏差，从而改善节点分类中的统计独立性。
• 后处理技术如AdaFair和Fair Boosting通过动态重新加权误分类子群体，并确保采样训练集中公平表示，减少了群体差异。
• 在半监督学习中，基线准确率较低的子群体在伪标签后常出现性能下降，凸显了不公平性放大的风险。
• Benefit Ratio指标有效捕捉了子群体间归一化准确率的提升，揭示了高基线群体从SSL中获益更多，而低基线群体可能处于不利地位。
• 通过生成并比较敏感属性被修改的反事实节点表示的反事实公平性方法，在基于图的模型中实现对敏感属性的不变性方面展现出前景。