[论文解读] Deep Fair Discriminative Clustering

Hongjing Zhang, Ian Davidson|arXiv (Cornell University)|May 28, 2021

Face and Expression Recognition参考文献 35被引用 4

一句话总结

本文提出了一种名为 Deep Fair Discriminative Clustering 的新框架，通过具有全单模约束的整数线性规划（ILP）公式，将群体层面的公平性整合到深度聚类中，实现了高效且精确的公平聚类分配。该方法将此公平分配与判别式深度聚类主干网络及对比学习相结合，在真实世界数据集上实现了接近最优的公平性，同时保持了具有竞争力的聚类性能，支持多状态受保护状态变量（PSVs）和灵活的公平性约束。

ABSTRACT

Deep clustering has the potential to learn a strong representation and hence better clustering performance compared to traditional clustering methods such as $k$-means and spectral clustering. However, this strong representation learning ability may make the clustering unfair by discovering surrogates for protected information which we empirically show in our experiments. In this work, we study a general notion of group-level fairness for both binary and multi-state protected status variables (PSVs). We begin by formulating the group-level fairness problem as an integer linear programming formulation whose totally unimodular constraint matrix means it can be efficiently solved via linear programming. We then show how to inject this solver into a discriminative deep clustering backbone and hence propose a refinement learning algorithm to combine the clustering goal with the fairness objective to learn fair clusters adaptively. Experimental results on real-world datasets demonstrate that our model consistently outperforms state-of-the-art fair clustering algorithms. Our framework shows promising results for novel clustering tasks including flexible fairness constraints, multi-state PSVs and predictive clustering.

研究动机与目标

• 解决深度学习中聚类不公平的问题，其中表示学习可能放大与受保护状态变量（PSVs）相关的偏见。
• 开发一种可扩展的端到端深度聚类框架，对二值和多状态 PSVs 均强制实施群体层面的公平性。
• 支持灵活的公平性约束，以反映不同地区间实际法规的差异。
• 将深度表示学习与离散优化相结合，生成紧凑、公平且有意义的聚类。

提出的方法

• 将群体层面的公平性形式化为整数线性规划（ILP）问题，其约束矩阵具有全单模性，通过线性规划确保精确的整数解。
• 将 ILP 求解器集成到判别式深度聚类主干网络中，以在保持聚类质量的同时优化聚类分配。
• 使用一种联合优化聚类目标、公平性约束和自监督对比学习的精炼学习算法。
• 端到端训练整个模型，允许通过公平分配层进行反向传播。
• 通过将公平性度量推广为在差别影响法规下的平衡度量，支持多状态 PSVs。
• 通过在容差区间内放松最优公平性条件，实现灵活的公平性约束，从而支持在不同公平性标准区域的实用部署。

实验结果

研究问题

• RQ1 是否可以在不依赖预处理或实例级约束的情况下，实现深度聚类的群体层面公平性？
• RQ2 如何在端到端深度学习框架中形式化并优化多状态受保护状态变量的群体层面公平性？
• RQ3 具有全单模性的 ILP 公式是否能有效集成到深度聚类流程中，以确保精确的公平聚类分配？
• RQ4 在不同地区或应用中变化的灵活公平性约束下，该模型表现如何？
• RQ5 强制实施公平性在多大程度上提升了聚类性能？公平性与准确率之间的权衡如何管理？

主要发现

• 所提模型在 MNIST-USPS 测试集上实现了接近最优的公平性（平衡度 = 0.200），同时保持了具有竞争力的聚类性能（NMI = 0.865，准确率 = 0.930）。
• 在 Reverse-MNIST 数据集上，模型在测试集上实现了 0.890 的平衡度，接近最优的 1.000，且聚类准确率较高（准确率 = 0.562）。
• 在 HAR 数据集上，模型在测试集上实现了 0.167 的平衡度，表明其在具有复杂模式的高维真实世界数据中也具有有效性。
• 放宽公平性约束（增加 ε）如预期导致平衡度降低，但同时也降低了聚类准确率，表明公平性与性能之间存在权衡。
• 特征空间可视化显示，公平性约束成功地将有偏见的样本（如 t-SNE 图中的红蓝点）重新分配到更均衡的聚类中，而未牺牲聚类的紧凑性。
• 经验收敛性分析表明，训练损失和平衡度指标在 50 个周期后稳定，表明优化过程稳定且平滑。