[论文解读] Distributional Individual Fairness in Clustering

Nihesh Anderson, Suman K. Bera+2 more|arXiv (Cornell University)|Jun 22, 2020

Ethics and Social Impacts of AI参考文献 45被引用 10

一句话总结

本文提出了聚类中的分布式个体公平性，提出了一种将点分配给聚类中心概率分布的框架，以确保相似个体受到相似对待。通过使用 f-散度衡量统计相似性，该方法在满足个体公平性约束的同时，为 ℓp-范数聚类目标提供了可证明的近似保证，并在实验中表明其在不牺牲聚类质量的前提下，公平性优于现有方法。

ABSTRACT

In this paper, we initiate the study of fair clustering that ensures distributional similarity among similar individuals. In response to improving fairness in machine learning, recent papers have investigated fairness in clustering algorithms and have focused on the paradigm of statistical parity/group fairness. These efforts attempt to minimize bias against some protected groups in the population. However, to the best of our knowledge, the alternative viewpoint of individual fairness, introduced by Dwork et al. (ITCS 2012) in the context of classification, has not been considered for clustering so far. Similar to Dwork et al., we adopt the individual fairness notion which mandates that similar individuals should be treated similarly for clustering problems. We use the notion of $f$-divergence as a measure of statistical similarity that significantly generalizes the ones used by Dwork et al. We introduce a framework for assigning individuals, embedded in a metric space, to probability distributions over a bounded number of cluster centers. The objective is to ensure (a) low cost of clustering in expectation and (b) individuals that are close to each other in a given fairness space are mapped to statistically similar distributions. We provide an algorithm for clustering with $p$-norm objective ($k$-center, $k$-means are special cases) and individual fairness constraints with provable approximation guarantee. We extend this framework to include both group fairness and individual fairness inside the protected groups. Finally, we observe conditions under which individual fairness implies group fairness. We present extensive experimental evidence that justifies the effectiveness of our approach.

研究动机与目标

• 为解决聚类中缺乏个体公平性的问题，特别是当群体公平性仍可能损害相似个体时。
• 通过分布式分配模型形式化聚类中的个体公平性，使相似点获得统计上相似的聚类分配。
• 设计一个同时整合个体公平性与群体公平性的框架，并展示个体公平性蕴含群体公平性的条件。
• 设计一种算法，在个体公平性约束下，为 ℓp-范数聚类目标提供可证明的近似保证。
• 通过实证验证，所提方法在保持低聚类成本的同时实现强个体公平性，优于基线概率聚类方法。

提出的方法

• 该方法将每个点建模为 k 个聚类中心上的概率分布，确保基于公平性相似性度量 𝒮 的相似点获得统计上相似的分布。
• 使用 f-散度作为分布间统计距离度量，以量化公平性，推广了先前的总变差和 ℓ∞-基度量方法。
• 该算法通过求解线性规划来最小化期望聚类成本，同时强制要求任意两点间分布的 f-散度不超过其公平性相似性度量。
• 该框架扩展至包含受保护群体内的群体公平性，确保代表性均衡的同时保持个体公平性。
• 该方法被应用于 k-均值、k-中心及其他 ℓp-范数聚类问题，理论证明了近似比保证。
• 实验将该方法与软 k-均值及其他基线方法进行比较，测量在不同参数下的公平性违规与聚类成本。

实验结果

研究问题

• RQ1 个体公平性（即相似个体受到相似对待）能否有意义地扩展到聚类问题？
• RQ2 f-散度如何作为聚类分配分布间统计相似性的通用且灵活的度量，以强制实现个体公平性？
• RQ3 聚类成本与个体公平性之间的权衡是什么？能否在可证明保证下进行优化？
• RQ4 在何种条件下，聚类中的个体公平性蕴含群体公平性？
• RQ5 与现有概率聚类方法相比，该方法在公平性与聚类质量方面表现如何？

主要发现

• 所提算法 ALG-IF 未违反任何个体公平性约束，而软 k-均值（SKM）在相同聚类成本下违反了高达 99% 的约束。
• 当 k=8 时，SKM 在聚类成本与 ALG-IF 相同时，使用 𝒮₁ 度量违反了 85% 的个体公平性约束，显示出显著的不公平性。
• 该方法的聚类成本在最优公平解的常数因子范围内，对 ℓp-范数目标提供了理论近似保证。
• 群体代表性中的统计偏差由群体与总体分布间的地球移动者距离上界控制，且经验差距紧密。
• 使用 CPLEX 求解包含约 1000 万个变量和约束的线性规划，运行时间在 9 小时以内，表明其实际可行性。
• 该框架成功整合了个体公平性与群体公平性，且在 𝒮₁ 相似性度量下，个体公平性蕴含群体公平性。