[论文解读] Protecting Individual Interests across Clusters: Spectral Clustering with Guarantees.

Shubham Gupta, Ambedkar Dukkipati|arXiv (Cornell University)|May 8, 2021

Privacy-Preserving Technologies in Data参考文献 32被引用 10

一句话总结

本文提出了一种谱聚类算法，通过确保每个聚类包含来自表示图的足够数量的邻居来实现个体公平性，其中连接反映了潜在的敏感属性。该方法在所提出的随机块模型变体下实现了弱一致性，并通过实验得到验证。

ABSTRACT

Studies related to fairness in machine learning have recently gained traction due to its ever-expanding role in high-stakes decision making. For example, it may be desirable to ensure that all clusters discovered by an algorithm have high gender diversity. Previously, these problems have been studied under a setting where sensitive attributes, with respect to which fairness conditions impose diversity across clusters, are assumed to be observable; hence, protected groups are readily available. Most often, this may not be true, and diversity or individual interests can manifest as an intrinsic or latent feature of a social network. For example, depending on latent sensitive attributes, individuals interact with each other and represent each other's interests, resulting in a network, which we refer to as a representation graph. Motivated by this, we propose an individual fairness criterion for clustering a graph $\mathcal{G}$ that requires each cluster to contain an adequate number of members connected to the individual under a representation graph $\mathcal{R}$. We devise a spectral clustering algorithm to find fair clusters under a given representation graph. We further propose a variant of the stochastic block model and establish our algorithm's weak consistency under this model. Finally, we present experimental results to corroborate our theoretical findings.

研究动机与目标

• 通过在表示图中建模个体兴趣，解决当敏感属性不可观测时聚类中的公平性问题。
• 确保每个聚类中包含与表示图中任一给定个体相连的足够数量的个体。
• 设计一种施加个体公平性约束的谱聚类算法。
• 在新型随机块模型变体下，建立该算法的理论一致性。
• 通过实验验证该方法，证实理论发现。

提出的方法

• 定义一个表示图 𝒓，其中边表示基于潜在敏感属性的个体之间的连接。
• 制定一个个体公平性准则，要求每个聚类中为每个个体都包含来自表示图的最小数量邻居。
• 设计一种通过修改拉普拉斯矩阵引入公平性约束的谱聚类算法。
• 引入一种随机块模型的变体，以建模具有潜在敏感属性的社区结构。
• 在所提模型下证明该算法的弱一致性，表明随着样本量增加，其收敛至公平聚类。
• 在合成数据和真实世界数据上实现并评估该算法，以验证理论主张。

实验结果

研究问题

• RQ1 当敏感属性为潜在属性而非直接可观测时，如何在聚类中形式化个体公平性？
• RQ2 谱聚类能否被调整，以确保每个聚类中包含足够数量的反映个体兴趣的表示图邻居？
• RQ3 在何种模型假设下，所提算法能实现弱一致性？
• RQ4 与标准谱聚类相比，该算法在公平性和聚类质量方面的表现如何？
• RQ5 在存在潜在敏感属性的场景下，该方法能否有效恢复公平聚类？

主要发现

• 所提出的谱聚类算法通过确保每个聚类包含来自表示图的足够数量邻居，成功实现了个体公平性。
• 该算法在新型随机块模型变体下实现了弱一致性，表明随着样本量增加，其收敛至公平聚类。
• 实验结果表明，该算法在保持聚类质量的同时，显著优于基线方法的公平性指标。
• 表示图有效捕捉了潜在敏感属性，使得在不直接访问敏感特征的情况下也能建模个体兴趣。
• 该方法在公平性指标上优于标准谱聚类，尤其在存在隐藏群体归属的场景下表现更优。