[论文解读] On Fairness, Diversity and Randomness in Algorithmic Decision Making

Nina Grgić-Hlača, Muhammad Bilal Zafar+2 more|arXiv (Cornell University)|Jun 30, 2017

Ethics and Social Impacts of AI被引用 12

一句话总结

本文提出使用公平或不公平分类器的随机集成，以提升算法决策中的公平性与准确性。通过从多样化集合中随机选择一个分类器，该集成在保持或提升准确率-公平性权衡的同时，显著改善了组内结果分布的公平性，即使单个分类器本身不公平。

ABSTRACT

Consider a binary decision making process where a single machine learning classifier replaces a multitude of humans. We raise questions about the resulting loss of diversity in the decision making process. We study the potential benefits of using random classifier ensembles instead of a single classifier in the context of fairness-aware learning and demonstrate various attractive properties: (i) an ensemble of fair classifiers is guaranteed to be fair, for several different measures of fairness, (ii) an ensemble of unfair classifiers can still achieve fair outcomes, and (iii) an ensemble of classifiers can achieve better accuracy-fairness trade-offs than a single classifier. Finally, we introduce notions of distributional fairness to characterize further potential benefits of random classifier ensembles.

研究动机与目标

• 探究用多样化集成替代单一分类器是否能提升算法决策中的公平性。
• 考察分类器集成中随机性与多样性对公平性度量（如差别对待、影响与误对待）的影响。
• 识别不公平分类器集成仍能产生公平结果的条件。
• 提出并探讨分布公平性的概念，重点关注敏感群体内部结果分布的均等性。
• 证明即使单个模型存在偏差，集成方法在准确率-公平性权衡上仍可优于单一分类器。

提出的方法

• 通过从 M 个多样化分类器中均匀随机选择一个分类器，形式化定义随机分类器集成，每个分类器将输入特征映射为二元预测结果。
• 使用标准度量定义公平性：影响均等性（各群体接受率相同）、机会均等性与误对待均等性。
• 通过在分类器集合成员上使用概率分布 p(j) 计算随机选择分类器的期望结果概率，分析集成的公平性。
• 引入分布公平性概念，以评估有益结果在敏感群体内部个体之间的分配是否均衡。
• 使用理论分析与示例（如两个分类器影响相同但分配模式不同）比较个体与集成的公平性表现。
• 通过对比不同公平性定义下集成与单个分类器的性能，评估准确率与公平性之间的权衡。

实验结果

研究问题

• RQ1 公平分类器的随机集成是否能在多种公平性定义下保证公平性？
• RQ2 不公平分类器的随机集成是否仍能实现公平结果，特别是在敏感群体内部的结果分布方面？
• RQ3 与单一分类器相比，使用多样化集成是否能改善准确率-公平性权衡？
• RQ4 分类器选择中的随机性在哪些方面能促进敏感群体内部有益结果的更公平分配？
• RQ5 现有公平性度量为何无法捕捉组内公平性？需要引入何种新概念（如分布公平性）以评估集成性能？

主要发现

• 公平分类器的集成在多种公平性定义下（包括影响均等性与机会均等性）可保证公平性。
• 即使单个分类器不公平，其集成仍可实现公平结果，尤其体现在显著降低敏感群体内部个体获得有益结果的概率差异。
• 该集成在准确率-公平性权衡上优于任何单一分类器，即使所有个体分类器均存在偏差。
• 从多样化集成中随机选择可带来更平滑、更稳健的期望结果，降低在决策边界附近相似个体间出现极端结果差异的风险。
• 现有公平性度量常忽略组内公平性；该集成方法揭示，通过多样性与随机性，可显著改善分布公平性——即群体内部结果机会的均等化。
• 由两个分类器组成的 50-50 集成，每个分类器为不同子集的女性分配有益结果，但总体率相同，可确保每位女性有 50% 的概率获得积极结果，体现组内公平性的显著提升。