[论文解读] Fairness Warnings and Fair-MAML: Learning Fairly with Minimal Data

Dylan Slack, Sorelle A. Friedler+1 more|arXiv (Cornell University)|Aug 24, 2019

Ethics and Social Impacts of AI参考文献 29被引用 6

一句话总结

本文提出了公平性警告（Fairness Warnings）与 Fair-MAML，这是一种模型无关的方法，可预测在分布偏移下公平模型可能失效的时机，以及一种元学习方法，用于从极少数据中训练公平模型。实验表明，Fair-MAML 在少样本设置下实现了高公平性与高准确率，而公平性警告则能识别出会损害公平性的关键分布偏移。

ABSTRACT

Motivated by concerns surrounding the fairness effects of sharing and transferring fair machine learning tools, we propose two algorithms: Fairness Warnings and Fair-MAML. The first is a model-agnostic algorithm that provides interpretable boundary conditions for when a fairly trained model may not behave fairly on similar but slightly different tasks within a given domain. The second is a fair meta-learning approach to train models that can be quickly fine-tuned to specific tasks from only a few number of sample instances while balancing fairness and accuracy. We demonstrate experimentally the individual utility of each model using relevant baselines and provide the first experiment to our knowledge of K-shot fairness, i.e. training a fair model on a new task with only K data points. Then, we illustrate the usefulness of both algorithms as a combined method for training models from a few data points on new tasks while using Fairness Warnings as interpretable boundary conditions under which the newly trained model may not be fair.

研究动机与目标

• 解决在低数据环境下部署公平机器学习模型的挑战，即从业者在新任务上仅有极少的标注数据。
• 识别在协变量偏移下，经过公平训练的模型可能无法在新、略有不同的分布上公平泛化的情况。
• 为从业者提供可解释、可操作的边界条件，以评估公平模型在新领域中是否适用。
• 开发一种元学习框架，实现仅用每任务 K 个标注样本即可快速、公平地微调模型。
• 通过结合公平性监控与少样本适应，弥合公平模型迁移与实际部署之间的差距。

提出的方法

• 公平性警告使用在分布偏移扰动上训练的线性代理模型，预测模型在新测试分布下是否会表现不公。
• 通过测量在扰动测试分布上公平性度量（如人口均等、机会均等）的变化来生成警告。
• Fair-MAML 采用元学习方法，训练一个可在仅用 K 个标注样本的新任务上快速微调的模型，同时保持公平性。
• 元优化过程在内层适应中平衡公平性与准确率，使用通过公平性约束惩罚不公平性的梯度更新。
• 在微调后的 Fair-MAML 模型上应用公平性警告，以评估其对现实世界分布偏移的鲁棒性。
• 该框架利用输入特征的汇总统计量（如均值、标准差）生成警告，重点关注关键人口统计与情境变量的偏移。

实验结果

研究问题

• RQ1 在何种分布偏移下，经过公平训练的模型会在新、相似的任务中无法维持公平性？
• RQ2 能否仅用新任务上的 K 个标注样本训练出可公平泛化的模型？
• RQ3 如何为从业者提供可解释、可操作的信号，以判断公平模型在实际应用中可能不再公平？
• RQ4 特征分布的微小变化（如贫困率或警力配置）在多大程度上影响微调模型的公平性？
• RQ5 公平性警告能否作为可靠的边界条件，防止在新领域中部署可能表现不公的模型？

主要发现

• 在社区与犯罪数据上应用时，公平性警告对 Fair-MAML 模型的不公平性预测准确率分别达到 71%（人口均等）和 68%（机会均等）。
• 在人口均等设置中，每户减少 1 人使不公平风险增加 200 万点，而警力或城市人口增加也触发了警告。
• 机会均等警告识别出，警力运营预算增加 100 万美元使公平性得分下降 2 分，表明可能存在公平性失效。
• Fair-MAML 在仅每类 5 个样本的 K-shot 任务上实现了 88% 的准确率，在公平性-准确率权衡上优于基线模型。
• 即使数据极少，Fair-MAML 仍保持了强大的公平性表现，证明了少样本公平学习的可行性。
• 结果表明，看似微小的真实世界分布偏移（如贫困率或警务配置的变化）可能导致严重的公平性退化，凸显了主动预警的必要性。