[论文解读] Consistency of Constrained Spectral Clustering under Graph Induced Fair Planted Partitions

Shubham Gupta, Ambedkar Dukkipati|arXiv (Cornell University)|May 8, 2021

Complex Network Analysis Techniques被引用 4

一句话总结

本文提出两种表示感知的谱聚类算法——URepSC 和 NRepSC——通过在聚类中确保每个节点在其敏感属性上的代表节点数量充足，实现个体层面的公平性，利用编码‘是代表’关系的表示图来实现。作者在一种新颖的公平植株划分模型下建立了这些方法的弱一致性，这是首次针对受限谱聚类中个体层面公平性的理论保证。

ABSTRACT

Spectral clustering is popular among practitioners and theoreticians alike. While performance guarantees for spectral clustering are well understood, recent studies have focused on enforcing ``fairness'' in clusters, requiring them to be ``balanced'' with respect to a categorical sensitive node attribute (e.g. the race distribution in clusters must match the race distribution in the population). In this paper, we consider a setting where sensitive attributes indirectly manifest in an auxiliary extit{representation graph} rather than being directly observed. This graph specifies node pairs that can represent each other with respect to sensitive attributes and is observed in addition to the usual extit{similarity graph}. Our goal is to find clusters in the similarity graph while respecting a new individual-level fairness constraint encoded by the representation graph. We develop variants of unnormalized and normalized spectral clustering for this task and analyze their performance under a \emph{fair} planted partition model induced by the representation graph. This model uses both the cluster membership of the nodes and the structure of the representation graph to generate random similarity graphs. To the best of our knowledge, these are the first consistency results for constrained spectral clustering under an individual-level fairness constraint. Numerical results corroborate our theoretical findings.

研究动机与目标

• 通过利用表示图间接观测到的敏感属性，以个体层面的约束来解决谱聚类中的公平性问题。
• 开发新的谱聚类变体（URepSC 和 NRepSC），通过表示图引入公平性，而无需直接访问敏感属性。
• 在结合聚类结构与表示图拓扑的新公平植株划分模型下，建立这些算法的理论一致性。
• 实证表明，所提方法在保持高聚类质量的同时实现强公平性，即使表示图偏离理想规则性亦成立。

提出的方法

• 形式化一种新的个体层面公平性约束——'表示约束'——即每个节点在分配到的聚类中必须拥有足够数量的其代表节点（来自表示图）。
• 提出 URepSC（未归一化）和 NRepSC（归一化）谱聚类变体，将表示图作为聚类目标中的公平性约束。
• 引入 $\mathcal{R}$-PP（表示感知植株划分）模型，该模型在聚类成员身份和表示图 $\mathcal{R}$ 的结构条件下生成随机相似性图。
• 在 $d$-正则表示图下，分析 URepSC 和 NRepSC 在 $\mathcal{R}$-PP 模型下的弱一致性，证明误分类节点数量随 $N$ 增长呈次线性。
• 在近似变体（URepSC (approx.)、NRepSC (approx.)）中使用低秩近似以降低计算成本，同时保持性能。
• 在合成数据、FAO 贸易网络和航空运输网络上实证验证理论发现，结果在比值切割（ratio-cut）方面具有竞争力，且平均平衡度高。

实验结果

研究问题

• RQ1 谱聚类能否在个体层面公平性约束下实现一致性，而这些约束并非直接可观测，而是通过表示图推断得出？
• RQ2 表示图的结构如何影响受限谱聚类的一致性和性能？
• RQ3 能否通过整合聚类结构与表示图拓扑的新植株划分模型，为公平感知聚类提供理论保证？
• RQ4 所提出的表示感知谱聚类算法与现有公平聚类方法相比，在聚类质量与公平性度量方面表现如何？
• RQ5 当表示图的 $d$-正则性假设被违反时，算法的近似变体在性能与公平性方面能保持到何种程度？

主要发现

• 在 $d$-正则表示图下，所提 URepSC 与 NRepSC 算法在 $\mathcal{R}$-PP 模型下实现弱一致性，即误分类节点数量以高概率为 $o(N)$。
• 该理论框架推广了先前关于群体层面公平性（如 Kleindessner 等，2019）的工作，其结果可作为后者的特例恢复。
• 在真实网络（FAO 贿易与航空运输网络）上的实证结果表明，算法在保持具有竞争力的比值切割的同时实现了高平均平衡度。
• 近似变体（URepSC (approx.)、NRepSC (approx.)）保持了强劲性能，公平性与聚类质量之间的权衡可通过低秩近似的秩 $R$ 进行控制。
• 即使表示图的 $d$-正则性假设被违反，算法仍保持有效性，展现出在实际场景中的鲁棒性。
• 比值切割与平均平衡度的独立图表表明，个体公平性仅以适度代价牺牲聚类质量，却带来显著的公平性提升。