[論文レビュー] Better Algorithms for Individually Fair $k$-Clustering

Deeparnab Chakrabarty, Maryam Negahbani|arXiv (Cornell University)|Jun 23, 2021

Facility Location and Emergency Management参考文献 34被引用数 5

ひとこと要約

本稿では、クラスタリングコストと公平性の保証の両面で先行研究を著しく上回る、個別に公平な $k$-クラスタリングのための新しい線形計画法（LP）ベースのアルゴリズムを提示する。スパarsificationを用いたLPラウンディングにより、$k$-Medianでは$(8, 8)$-近似、$k$-Meansでは$(8, 4)$-近似を達成し、実験的コストは最適解の1%以内、公平性違反は1.27倍未満に抑えられ、局所探索法に比べて目的関数の品質と公平性の分布の両面で優れている。

ABSTRACT

We study data clustering problems with $\ell_p$-norm objectives (e.g. $k$-Median and $k$-Means) in the context of individual fairness. The dataset consists of $n$ points, and we want to find $k$ centers such that (a) the objective is minimized, while (b) respecting the individual fairness constraint that every point $v$ has a center within a distance at most $r(v)$, where $r(v)$ is $v$'s distance to its $(n/k)$th nearest point. Jung, Kannan, and Lutz [FORC 2020] introduced this concept and designed a clustering algorithm with provable (approximate) fairness and objective guarantees for the $\ell_\infty$ or $k$-Center objective. Mahabadi and Vakilian [ICML 2020] revisited this problem to give a local-search algorithm for all $\ell_p$-norms. Empirically, their algorithms outperform Jung et. al.'s by a large margin in terms of cost (for $k$-Median and $k$-Means), but they incur a reasonable loss in fairness. In this paper, our main contribution is to use Linear Programming (LP) techniques to obtain better algorithms for this problem, both in theory and in practice. We prove that by modifying known LP rounding techniques, one gets a worst-case guarantee on the objective which is much better than in MV20, and empirically, this objective is extremely close to the optimal. Furthermore, our theoretical fairness guarantees are comparable with MV20 in theory, and empirically, we obtain noticeably fairer solutions. Although solving the LP {\em exactly} might be prohibitive, we demonstrate that in practice, a simple sparsification technique drastically improves the run-time of our algorithm.

研究の動機と目的

• 既存の個別に公平な $k$-クラスタリングのためのアルゴリズムには、目的関数の品質や公平性の両方を犠牲にしているというギャップがあるため、それを是正すること。
• 特に $k$-Median と $k$-Means の文脈において、個別公平性制約下での $\ell_p$-ノルムクラスタリング目的関数のための、証明可能に優れたアルゴリズムの設計。
• 先行の局所探索法（例：Mahabadi と Vakilian, 2020）が示すクラスタリングコストと公平性違反のトレードオフを改善すること。
• LPベースのラウンディングとスパース化が、強固な理論的保証と実用的な効率性の両方をもたらすことを示すこと。
• 実験的に、本手法が最適解に非常に近く、かつ先行手法よりも顕著に優れた公平性分布を達成することを検証すること。

提案手法

• 個別に公平な $k$-クラスタリング問題を線形計画法として定式化し、各クライアント $v$ のための半径制約 $r(v)$ を、$(n/k)$-番目の近隣距離に基づいて定義することで公平性を強制する。
• コストと公平性違反の両方を有界に保つように、分数解から整数解への変換を目的とした修正されたLPラウンディング手法を用いる。
• LP制約行列の非ゼロ要素数を削減するためのスパース化ステップを導入し、解の品質にほとんど損なわせずに実行時間を著しく改善する。
• 重み付き $k$-Center 問題や順序付きメジアン問題からの知見を活用し、LPの構築とラウンディング戦略を支援する。
• 二段階アプローチを採用：まずLPを解いて分数解を得た後、公平性とコストの両方を尊重する確率的手続きでラウンドする。
• 最終解の最適性ギャップを評価するため、LPのコストを下界として用いる。

実験結果

リサーチクエスチョン

• RQ1 既存の局所探索アルゴリズムに比べ、LPベースの手法はクラスタリングコストと個別公平性の間でより良いトレードオフを達成できるか？
• RQ2 提案手法の公平性分布（クライアントごとの違反比）は、特に低違反またはゼロ違反のクライアント数の観点で、先行研究と比べてどうか？
• RQ3 LP制約行列のスパース化は、解の品質をほとんど損なわせつつ、実行時間の効率性をどの程度向上させるか？
• RQ4 提案手法の実験的コストは最適解にどの程度近いか？ また、$k$-Means++ などの非公平アルゴリズムのコストと比べてどうか？
• RQ5 公平性のコストは何か？ また、公平性制約を緩和した場合、そのコストはどのように変化するか？

主な発見

• 提案手法 Fair-Round は、$k$-Median に対して $(8, 8)$-近似、$k$-Means に対して $(8, 4)$-近似を達成し、先行研究の $Cp$-要因によるコスト保証を著しく上回っている。
• 実験的に、Fair-Round のクラスタリングコストはほとんどのケースで最適解の1%以内であり、LP下界より15%以上多くはならない。
• 最大の公平性違反（すなわち、$\max_v d(v,S)/r(v)$）は最大で1.27倍であり、理論的保証の8倍よりも著しく良く、Mahabadi と Vakilian (2020) の7倍の違反より顕著に優れている。
• ほぼすべての実験で80%以上のクライアントが完全に公平（すなわち、$d(v,S) \leq r(v)$）であるため、先行手法よりもはるかに公平性の高い分布を示している。
• スパース化版である Sparse-Fair-Round は、$k$-Means++ や Jung ら (2020) のアルゴリズムと同等の実行時間を達成し、最適に近いコストと公平性を維持している。
• 公平性制約を Mahabadi と Vakilian (2020) のものに緩和した場合、提案手法のコストはそれらより低くなるため、より優れたコスト-公平性トレードオフを実現している。