[論文レビュー] Clustering with Fairness Constraints: A Flexible and Scalable Approach

Imtiaz Masud Ziko, Éric Granger+2 more|arXiv (Cornell University)|Jun 19, 2019

Health disparities and outcomes参考文献 20被引用数 10

ひとこと要約

本稿では、K-平均、K-メディアン、正規化カットなどの多様なクラスタリング目的関数に、任意の人口統計的割合制約を統合するための柔軟でスケーラブルな変分フレームワークを提案する。これは、KLベースの公平性ペナルティのタイトな上界を用いて実現される。この手法により、収束保証付きの連合最適化と、個々の割り当て更新が可能となり、分散計算や公平性とクラスタリング品質の間の効率的トレードオフ制御が可能となる。

ABSTRACT

This study investigates a general variational formulation of fair clustering, which can integrate fairness constraints with a large class of clustering objectives. Unlike the existing methods, our formulation can impose any desired (target) demographic proportions within each cluster. Furthermore, it enables to control the trade-off between the fairness and clustering terms. We derive an auxiliary function (tight upper bound) of our KL-based fairness penalty via its concave-convex decomposition and Lipschitz-gradient property. Our upper bound can be optimized jointly with various clustering objectives, including prototype-based, such as K-means and K-median, or graph-based such as Normalized Cut. Interestingly, at each iteration, our general fair-clustering algorithm performs an independent update for each assignment variable, while guaranteeing convergence. Therefore, it can be easily distributed for large-scale data sets. Such scalability is important as it enables to explore different trade-off levels between the fairness and clustering objectives. Unlike fairness-constrained spectral clustering, our formulation does not need storing an affinity matrix and computing its eigenvalue decomposition. We show the effectiveness, flexibility and scalability of our approach through comprehensive evaluations and comparisons to the existing methods over several data sets.

研究の動機と目的

• 既存の公平クラスタリング手法が、クラスタ内での任意のターゲット人口統計的割合を柔軟に強制できないという限界に対処すること。
• プロトタイプベースおよびグラフベースの手法を含む広範なクラスのクラスタリング目的関数と公平性制約を統合する包括的なフレームワークを開発すること。
• 公平性ペナルティのタイトな上界を用いることで、大規模データセット上で分散的かつ効率的な計算が可能なスケーラブルな最適化を実現すること。
• スペクトラルクラスタリングに基づく公平性手法で一般的なアフィニティ行列の固有値分解を実行する計算コストの高いステップを排除すること。
• 公平性とクラスタリング品質の間の柔軟なトレードオフメカニズムを提供し、さまざまな公平性レベルの探索を可能にすること。

提案手法

• 各クラスタごとに望ましい人口統計的割合を強制するため、クラスタリング損失とKLベースの公平性ペナルティを組み合わせた一般化された変分目的関数を定式化する。
• KL発散のリプシッツ勾配性を活用し、凹-凸分解を用いて公平性ペナルティのタイトな上界を導出する。
• K-平均、K-メディアン、正規化カットなどのさまざまなクラスタリング目的関数と、統一されたアルゴリズムフレームワークを用いて上界を連合最適化する。
• 各クラスタリング割り当て変数を反復的に独立して更新する反復的最適化戦略を採用し、収束性を保証するとともに並列化を可能にする。
• 公平性制約付きスペクトラルクラスタリング手法とは異なり、大規模アフィニティ行列の固有値分解の保存と計算を回避する。
• 目的関数内の2つの項のバランスを調整するハイパーパrameterを介して、公平性とクラスタリングパフォーマンスの間の柔軟なトレードオフ制御を実現する。

実験結果

リサーチクエスチョン

• RQ1 包括的なクラスタリング目的関数に対して、各クラスタ内での任意のターゲット人口統計的割合を統一フレームワークで強制できるか？
• RQ2 計算スケーラビリティと収束性を維持しつつ、公平性制約をクラスタリング目的関数とどのように統合できるか？
• RQ3 本手法は、公平性、クラスタリング品質、および効率性の観点で、既存の公平クラスタリング手法をどの程度上回るか？
• RQ4 スペクトラルクラスタリングにおいて一般的な固有値分解の計算ボトルネックを回避しつつ、公平性の保証を維持できるか？
• RQ5 本手法は、さまざまなデータ分布や公平性レベルにおいて、公平性とクラスタリングパフォーマンスのバランスをどの程度効果的に実現できるか？

主な発見

• 従来の手法が固定または二値制約に限られるのに対し、本手法は各クラスタごとに任意のターゲット人口統計的割合を許容することで、優れた公平性の強制を達成する。
• 導出された公平性ペナルティの上界により、K-平均、K-メディアン、正規化カットを含む複数のクラスタリング目的関数と連合最適化が可能となり、収束保証が得られる。
• アルゴリズムの独立した割り当て更新により、大規模データセット上で効率的な分散実装が可能となり、スケーラビリティが著しく向上する。
• アフィニティ行列の保存と固有値分解の必要性を回避することで、公平性制約付きスペクトラルクラスタリングに比べて計算オーヘッドを低減する。
• 包括的な評価により、本手法の有効性、柔軟性、スケーラビリティが複数のデータセットで実証され、公平性とクラスタリング品質のトレードオフにおいて既存手法を上回ることが示された。
• 単一のハイパーパrameterのチューニングにより、公平性-クラスタリングのトレードオフの体系的探索が可能であり、実世界の応用において実用的価値を提供する。