[论文解读] Minimax Pareto Fairness: A Multi Objective Perspective

Natalia Martínez, Martín Bertrán+1 more|PubMed|Nov 3, 2020

Ethics and Social Impacts of AI被引用 54

一句话总结

论文将群体公平性形式化为多目标优化问题，并引入最小最大帕累托公平性（MMPF）及一个简单的基于 SGD 的算法（APStar），该算法在测试时不需要访问敏感属性，从而在多项任务上改善最坏组的性能。

ABSTRACT

In this work we formulate and formally characterize group fairness as a multi-objective optimization problem, where each sensitive group risk is a separate objective. We propose a fairness criterion where a classifier achieves minimax risk and is Pareto-efficient w.r.t. all groups, avoiding unnecessary harm, and can lead to the best zero-gap model if policy dictates so. We provide a simple optimization algorithm compatible with deep neural networks to satisfy these constraints. Since our method does not require test-time access to sensitive attributes, it can be applied to reduce worst-case classification errors between outcomes in unbalanced classification problems. We test the proposed methodology on real case-studies of predicting income, ICU patient mortality, skin lesions classification, and assessing credit risk, demonstrating how our framework compares favorably to other approaches.

研究动机与目标

• 将群体公平性表述为一个多目标优化问题，其中每个敏感组的风险都是一个目标。
• 通过帕累托最优定义“无不必要伤害的公平性”，并最小化最大组风险。
• 开发一个简单、兼容神经网络的优化方法，在测试时不需要敏感属性即可得到最小最大帕累托公平的分类器。
• 在真实数据上的适用性展示：收入预测、ICU 死亡率、皮肤病变分类和信用风险。

提出的方法

• 将组特异性风险 r_a(h) 建模为 MOOP 目标。

实验结果

研究问题

• RQ1 如何将群体公平性形式化为多目标优化问题，以及帕累托最优性的作用是什么？
• RQ2 什么是 minimaxPareto 公平性，以及如何在测试时不访问敏感属性的情况下计算相应的分类器？
• RQ3 提出的 APStar 算法是否能够在真实数据集上高效收敛到最小最大帕累托公平分类器？
• RQ4 在 MIMIC-III、HAM10000、Adult 与 German Credit 等任务上，MMPF 相较于 naive、balanced 及其他公平性方法有何表现？

主要发现

• 作者表征了用于凸损失（如 Brier 分数与交叉熵）的帕累托有效分类器，并展示如何通过对组风险的加权和来恢复它们。
• 最小最大帕累托公平性（MMPF）在帕累托有效分类器中选择具有最小最坏组风险的分类器，并且可以在 SGD 之上通过一个简单的自适应损失来优化。
• 提出 APStar 算法通过更新对敏感组的加权来细化最小最大风险，给出收敛性分析并在经验上相比随机采样和MWU具有速度优势。
• 在真实数据集（MIMIC-III、HAM10000、Adult、German）上展示该方法，提高了最坏组的性能，并在准确率/差异指标方面与 Naive、Balanced 及测试时后处理方法等基线相比具有竞争力。
• MMPF 不需要测试时访问敏感属性，并且能够处理非二进制的敏感变量和目标变量，扩展了在非平衡分类场景中的适用性。