[论文解读] Fair Predictors under Distribution Shift
本文提出了一种方法，通过在公平性约束下选择特征，利用因果域自适应技术，使机器学习预测器在分布偏移下仍能保持准确性和公平性。该方法在未见目标分布下实现了预测和公平性方面的稳定性能，已在合成数据和真实世界急性肾损伤诊断任务中得到验证，面对测量策略偏移和选择偏差具有鲁棒性。
Recent work on fair machine learning adds to a growing set of algorithmic safeguards required for deployment in high societal impact areas. A fundamental concern with model deployment is to guarantee stable performance under changes in data distribution. Extensive work in domain adaptation addresses this concern, albeit with the notion of stability limited to that of predictive performance. We provide conditions under which a stable model both in terms of prediction and fairness performance can be trained. Building on the problem setup of causal domain adaptation, we select a subset of features for training predictors with fairness constraints such that risk with respect to an unseen target data distribution is minimized. Advantages of the approach are demonstrated on synthetic datasets and on the task of diagnosing acute kidney injury in a real-world dataset under an instance of measurement policy shift and selection bias.
研究动机与目标
- 解决机器学习模型在真实世界部署中面临分布偏移时，维持预测准确性和公平性的挑战。
- 将域自适应技术扩展至将公平性作为稳定性标准，而不仅限于预测性能。
- 开发一个框架，在未见目标数据分布下最小化风险，同时强制执行公平性约束。
- 识别并选择一组特征，使预测器在分布偏移下于预测和公平性度量方面均实现稳定性能。
提出的方法
- 在因果域自适应框架内建模源分布与目标分布之间的关系，以形式化该问题。
- 选择一组用于训练的特征，以在目标分布下同时优化预测风险和公平性约束。
- 使用同时考虑预测误差和目标分布中公平性违规的风险最小化目标。
- 在训练过程中整合公平性约束，以确保模型性能在分布偏移下保持稳定。
- 将该方法应用于合成数据和真实世界急性肾损伤诊断数据集，面对测量策略偏移和选择偏差。
- 利用因果假设识别在分布偏移下具有鲁棒性且同时保持公平性的特征。
实验结果
研究问题
- RQ1机器学习模型是否能在分布偏移下同时维持高预测准确性和公平性？
- RQ2如何在不损害预测性能的前提下，稳定不同数据分布下的公平性？
- RQ3在分布偏移下，哪些特征最有利于训练出在准确性和公平性方面均具有良好泛化能力的预测器？
- RQ4在真实世界数据中，面对测量策略偏移和选择偏差，所提出方法在多大程度上减少了公平性退化？
主要发现
- 所提方法在分布偏移下实现了预测和公平性性能的稳定表现，在合成数据和真实世界设置中均优于基线方法。
- 在公平性约束下进行特征选择显著提升了对分布偏移的鲁棒性，尤其在测量策略偏移下表现突出。
- 与未采用公平性感知特征选择训练的模型相比，该方法在目标分布中显著减少了公平性退化。
- 在急性肾损伤数据集上的实证结果表明，在选择偏差下，预测准确性和公平性度量均实现了更好的泛化性能。
- 该方法表明，公平性可作为与预测性能并列的稳定性标准，在域自适应中得以保持。
- 对域偏移的因果建模使能够识别出在分布变化下既具预测性又具公平性的特征。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。