[論文レビュー] Fair Hierarchical Clustering

Sara Ahmadian, Alessandro Epasto+7 more|arXiv (Cornell University)|Jun 18, 2020

Privacy-Preserving Technologies in Data参考文献 29被引用数 20

ひとこと要約

本稿では、収益、価値、コストといった標準的目的関数に対して強い近似保証を維持しながら、階層的クラスタリングにおける保護属性（例：人種、性別）のすべてのレベルでバランスの取れた表現を保証する公平な階層的クラスタリングアルゴリズムを紹介する。フェアレットフレームワークを階層的クラスタリングに拡張することで、著者らは、目的関数値のわずかな低下で済ませながらも、近似的に最適なクラスタリング品質を達成する効率的なアルゴリズムを提案する。実験的に、性能を犠牲にすることなく公平性を検証した。

ABSTRACT

As machine learning has become more prevalent, researchers have begun to recognize the necessity of ensuring machine learning systems are fair. Recently, there has been an interest in defining a notion of fairness that mitigates over-representation in traditional clustering. In this paper we extend this notion to hierarchical clustering, where the goal is to recursively partition the data to optimize a specific objective. For various natural objectives, we obtain simple, efficient algorithms to find a provably good fair hierarchical clustering. Empirically, we show that our algorithms can find a fair hierarchical clustering, with only a negligible loss in the objective.

研究の動機と目的

• 保護属性のすべてのクラスタレベルにわたるバランスの取れた表現を保証することで、階層的クラスタリングにおける公平性を扱う。
• 従来フラットクラスタリングに用いられてきたフェアレットフレームワークを、証明可能に公平な解決策を提供するための階層的クラスタリングに拡張する。
• 収益、価値、コストの目的関数の下でのフェアレット分解のための効率的な近似アルゴリズムを開発する。
• 公平性とクラスタリング品質のトレードオフを実騪的に評価し、目的関数パフォーマンスの低下が最小限であることを示す。
• 実世界の応用（ニュースの整理や地理的セグメンテーションなど）における公平な階層的クラスタリングの理論的保証と実用的アルゴリズムを提供する。

提案手法

• ダスガプタの階層的クラスタリングフレームワークを、フェアレット分解アプローチを用いて保護属性の制約を組み込む形に拡張する。
• ブラックボックス還元法を提案：まず平均リンクアプローチなどにより非公平な階層的クラスタリングを計算し、その後フェアレットベースのクラスタリングを用いて公平性を満たすように再構成する。
• 二段階アルゴリズムを設計する：(1) 初期ツリーのBFS走査により候補クラスタを特定し、(2) マッチングに基づく精錬を用いて保護属性をバランスさせるためにクラスタを再結合する。
• 相互クラスタの不均衡をモデル化するためのマッチンググラフ $ H_M $ を構築し、重みの制限付きで頂点再割り当てにより未マッチ頂点を反復的に是正する。
• 最小重みバイセクションブラックボックスを用いて、クラスタ内でのマイノリティカラー頂点を分離・再割り当てし、バランスを達成すると同時に目的関数の損失を最小限に抑える。
• 類似した不均衡度を持つクラスタを組み合わせる貪欲なマージ戦略を適用し、階層のすべてのレベルで公平性を保証する。

実験結果

リサーチクエスチョン

• RQ1 収益、価値、コストといった標準的目的関数に対して、階層的クラスタリングにおける公平性を証明可能に保証できる近似保証を得られるか？
• RQ2 フェアレットフレームワークをフラットクラスタリングから階層的クラスタリングに拡張することで、ツリーのすべてのレベルで公平性を保証できるか？
• RQ3 階層的クラスタリングにおける良いフェアレット分解を見つける計算複雑性は何か？ また、効率的に近似可能か？
• RQ4 公平性を強制することで、階層的クラスタリング目的関数の品質はどの程度劣化するか？
• RQ5 提案されたアルゴリズムは、保護属性のバランスの取れた表現を保証しながらも、近似的に最適なクラスタリングパフォーマンスを維持できるか？

主な発見

• 収益目的関数に関して、CensusMultiColorデータセット（3200サンプル）では、最終的なフェアクラスタリングが、アンフェアな平均リンクアプローチの97.43%の性能を達成しており、劣化がほとんどないことが示された。
• BankMultiColorデータセットでは、3200サンプルでフェアアルゴリズムがベースライン性能の98.43%を達成しており、強力なスケーラビリティと最小限の目的関数損失を示した。
• アルゴリズムの平均実行時間はデータサイズに対して準線形に増加し、CensusMultiColorデータセットで6400サンプルのときには803.59秒に達しており、実用的な効率性を示した。
• ランダムフェアレットを用いた初期フェアレット分解では性能が悪く（例：CensusMultiColorではベースラインの61.94%）、しかし反復的精錬により最終的に97.43%まで向上した。
• フェアレット分解およびマッチングベースの頂点再割り当てプロセスにより、階層のすべてのレベルで保護属性がバランスされていることが確認された。
• 理論的分析により、フェアレットベースのアプローチが、標準的な階層的クラスタリングフレームワーク下で、コスト、収益、価値の目的関数に対して定数倍近似保証を提供することが示された。