[论文解读] Balanced Ranking with Diversity Constraints

Ke Yang, Vasilis Gkatzelis+1 more|arXiv (Cornell University)|Jun 4, 2019

Game Theory and Voting Systems参考文献 22被引用 9

一句话总结

本文研究在多样性约束下集合选择与排序算法中的组内不公平性问题，即历史上处于不利地位的群体可能在公平性目标下仍被系统性地代表性不足。本文提出整数线性规划模型，以在不同敏感属性间平衡组内公平性，并通过实验表明，可在性能损失最小的情况下量化并缓解效用与公平性之间的权衡。

ABSTRACT

Many set selection and ranking algorithms have recently been enhanced with diversity constraints that aim to explicitly increase representation of historically disadvantaged populations, or to improve the overall representativeness of the selected set. An unintended consequence of these constraints, however, is reduced in-group fairness: the selected candidates from a given group may not be the best ones, and this unfairness may not be well-balanced across groups. In this paper we study this phenomenon using datasets that comprise multiple sensitive attributes. We then introduce additional constraints, aimed at balancing the \in-group fairness across groups, and formalize the induced optimization problems as integer linear programs. Using these programs, we conduct an experimental evaluation with real datasets, and quantify the feasible trade-offs between balance and overall performance in the presence of diversity constraints.

研究动机与目标

• 识别并量化多样性约束在集合选择中带来的意外后果：对历史上处于不利地位群体的组内公平性降低。
• 将组内公平性形式化为可度量的指标，并提出在不同敏感属性群体间平衡其损失的方法。
• 开发优化模型——特别是整数线性规划模型——以同时满足多样性约束并平衡组内公平性。
• 通过实证评估在多种数据集上整体效用与公平性之间的权衡，证明平衡结果的可行性。
• 探讨群体间评分差异对组内不公平性的影响，并提出减轻不均衡损害的策略。

提出的方法

• 将组内公平性形式化为每个敏感属性群体中所选候选人的质量相对于该群体最佳候选人的相对质量。
• 引入两种公平性度量：所有群体中最小组内公平性，以及用于平衡损失的字典序最优化公平性向量。
• 开发整数线性规划（ILPs）模型，在满足多样性约束和公平性平衡目标的前提下最大化总效用。
• 将ILP框架扩展至处理基于前缀的多样性约束下的集合选择与排序列表生成。
• 使用字典序最优化解法优先保障最弱势群体的公平性，确保组内质量损失的平衡。
• 在真实世界数据集上进行实验评估，量化在各种约束配置下效用与公平性之间的权衡。

实验结果

研究问题

• RQ1 在集合选择中，多样性约束在多大程度上导致历史上代表性不足群体的组内不公平性加剧？
• RQ2 如何在算法选择中对多个敏感属性正式度量并平衡组内公平性？
• RQ3 在同时强制执行多样性与组内公平性约束时，整体效用与公平性之间的权衡是什么？
• RQ4 群体间的评分差异如何影响受约束选择中的组内不公平性程度？
• RQ5 整数线性规划模型是否能有效在保持高效率的同时在真实世界数据集中平衡各群体间的公平性？

主要发现

• 本文表明，多样性约束可能导致显著的组内不公平性，即在强制多样性时，劣势群体中得分较低的成员可能被选中，而得分更高的成员却被排除。
• 在一个包含12名候选人的实际案例中，仅追求效用最大化的解决方案在多样性约束下仅选中了两名男性（A和B），而排除了得分更高的两名女性（C和D）。
• 一种替代方案在效用上仅略有损失（372 vs. 373），同时包含了所有群体的顶尖候选人（A、C、E、K），表明可通过极小的效用代价显著提升公平性。
• 作者观察到，群体间评分差异越大，组内公平性的不平衡程度也越高，表明对劣势群体存在结构性风险。
• 基于ILP的方法成功在各群体间平衡了组内公平性，实验结果表明可在不显著损失整体效用的前提下提升公平性。
• 本研究证实，即使在NP难的优化问题中，通过ILP求解精确解仍可量化并缓解实际场景中的不公平性。