[论文解读] Domain Adaptation meets Individual Fairness. And they get along

Debarghya Mukherjee, Felix Petersen+2 more|arXiv (Cornell University)|May 1, 2022

Insurance, Mortality, Demography, Risk Management被引用 5

一句话总结

本文建立了领域自适应（DA）与个体公平性（IF）之间的双向联系，表明在协变量偏移下，强制执行IF可提升分布外泛化性能；而领域自适应方法若在概率条件下对齐特征分布，则可实现IF。关键贡献在于理论与实证证明了公平性干预与领域自适应技术在缓解由数据分布偏移引发的算法偏见方面具有相互促进的潜力。

ABSTRACT

Many instances of algorithmic bias are caused by distributional shifts. For example, machine learning (ML) models often perform worse on demographic groups that are underrepresented in the training data. In this paper, we leverage this connection between algorithmic fairness and distribution shifts to show that algorithmic fairness interventions can help ML models overcome distribution shifts, and that domain adaptation methods (for overcoming distribution shifts) can mitigate algorithmic biases. In particular, we show that (i) enforcing suitable notions of individual fairness (IF) can improve the out-of-distribution accuracy of ML models under the covariate shift assumption and that (ii) it is possible to adapt representation alignment methods for domain adaptation to enforce individual fairness. The former is unexpected because IF interventions were not developed with distribution shifts in mind. The latter is also unexpected because representation alignment is not a common approach in the individual fairness literature.

研究动机与目标

• 探究算法公平性干预（尤其是个体公平性，IF）是否可提升在分布偏移下的模型泛化性能。
• 检验是否可利用领域自适应（DA）方法来强制实现个体公平性。
• 通过识别共享归纳偏置与相互益处，弥合算法公平性与领域自适应这两个独立研究领域之间的鸿沟。
• 在真实世界数据集（Bios与Toxicity）上实证验证理论主张，展示在公平性与泛化能力方面跨方法的协同增益。

提出的方法

• 本文提出一种新颖的数据划分策略，将单一标注训练集重新划分为源域与目标域以用于DA，其中划分依据为与公平性相关的属性（如Bios中的性别，评论中的身份标记）。
• 在划分后的数据上应用标准领域自适应方法——DANN、VADA、WDA与SenSeI，通过对齐域间特征表示，隐式强制实现个体公平性。
• 理论分析表明，在协变量偏移条件下，若回归函数满足个体公平性，则强制执行IF可提升分布外准确率。
• 引入一个概率因子模型以形式化DA与IF之间的联系，表明在此模型下对特征分布进行对齐可实现个体公平性。
• 该方法以一致性正则化作为统一原则：相似输入（如仅性别代词互换的同一份个人简介）应获得相似预测结果。
• 实验采用平衡准确率（BA）与预测一致性（PC）作为指标，并进行10次随机运行以确保结果稳健。

实验结果

研究问题

• RQ1 在协变量偏移下，强制执行个体公平性是否可提升模型的分布外泛化性能？
• RQ2 在特定概率假设下，能否利用对齐特征分布的领域自适应方法来强制实现个体公平性？
• RQ3 领域自适应中的表示对齐与个体公平性原则之间存在何种理论联系？
• RQ4 当应用于公平性划分的训练数据时，不同领域自适应技术在提升个体公平性指标方面表现如何比较？
• RQ5 相同的划分策略与DA训练方法是否可在公平性与泛化能力两方面均带来性能提升？

主要发现

• 通过DA方法强制执行个体公平性，在Toxicity数据集上将预测一致性（PC）提升了最多13.3个百分点，其中WDA达到65.4%的PC，优于基线的62.1%。
• 在Bios数据集上，WDA实现95.5%的预测一致性，优于基线（94.2%）及其他DA方法。
• 专为个体公平性设计的SenSeI方法在Toxicity数据集上实现了最高的PC（77.3%），但需依赖特定问题的公平性度量；而DA方法仅需数据划分策略即可实现。
• 在DA方法中，WDA在平衡准确率与预测一致性之间实现了最佳权衡，在Toxicity数据集上保持了高BA（83.3%）与强PC（65.4%）。
• 结果表明，基于DA的方法可在无需显式公平性度量的情况下实现显著的公平性提升，相较于专用IF方法更具可及性。
• 本研究证实，IF与DA均受益于共享的归纳偏置——尤其是对相似输入保持预测一致性——凸显了两种范式之间的统一原则。