[论文解读] Discriminative but Not Discriminatory: A Comparison of Fairness Definitions under Different Worldviews.
本文在不同假设数据偏差程度的世界观下，比较了三种公平性定义——人口统计均等、机会均等和预测均等。文章认为，在特定世界观下，人口统计均等与机会均等可被证明是合理的，以防止差异的放大；而预测均等无法防止显著的组间差异，因此提出一种与更现实世界观一致的新公平性概念。
We mathematically compare three competing definitions of group-level nondiscrimination: demographic parity, equalized odds, and predictive parity. Using the theoretical framework of Friedler et al., we study the properties of each definition under various worldviews, which are assumptions about how, if at all, the observed data is biased. We argue that different worldviews call for different definitions of fairness, and we specify the worldviews that, when combined with the desire to avoid a criterion for discrimination that we call disparity amplification, motivate demographic parity and equalized odds. In addition, we show that predictive parity is insufficient for avoiding disparity amplification because it allows an arbitrarily large inter-group disparity. Finally, we define a worldview that is more realistic than the previously considered ones, and we introduce a new notion of fairness that corresponds to this worldview.
研究动机与目标
- 分析关于数据偏差的不同假设（世界观）如何影响机器学习中公平性定义的适用性。
- 识别在特定世界观下，哪种公平性定义——人口统计均等、机会均等或预测均等——最为合适。
- 证明尽管预测均等在某些语境下被视为公平，但其对组间巨大差异的容忍度使其不足以防止差异放大。
- 提出一种基于更现实世界观的新公平性概念，更好地反映现实世界中的数据偏差。
提出的方法
- 使用Friedler等人提出的理论框架，对不同世界观下建模公平性定义，每种世界观代表对数据偏差的不同假设。
- 将‘差异放大’定义为评估公平性定义是否能防止现有群体差异恶化的标准。
- 分析在每种世界观下，人口统计均等、机会均等和预测均等的数学特性，以评估其歧视性影响。
- 引入一种更能反映现实世界数据偏差（如历史不公和测量误差）的新世界观。
- 推导出一种与该现实世界观一致的新公平性准则，确保对差异放大的鲁棒性。
实验结果
研究问题
- RQ1在何种世界观下，人口统计均等与机会均等可被视为公平性标准？
- RQ2为何尽管预测均等在某些语境下被视为公平，却仍无法防止差异放大？
- RQ3当采用更能反映现实世界数据偏差的新世界观时，会衍生出何种新的公平性定义？
- RQ4关于数据偏差的不同假设如何影响标准公平性定义的有效性？
主要发现
- 在假设特定类型数据偏差的世界观下，人口统计均等与机会均等可被证明是合理的，尤其在避免差异放大的情境中。
- 预测均等允许组间差异任意扩大，因此不足以防止差异放大。
- 提出一种与更现实世界观一致的新公平性概念，能更有效地防范差异放大。
- 研究表明，公平性定义必须根据对数据偏差的底层假设来选择，而不能普遍适用。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。