[論文レビュー] Consistency of Constrained Spectral Clustering under Graph Induced Fair Planted Partitions

Shubham Gupta, Ambedkar Dukkipati|arXiv (Cornell University)|May 8, 2021

Complex Network Analysis Techniques被引用数 4

ひとこと要約

本稿では、『代表的である』関係を符号化する表現グラフを用いて、各ノードがその感受性属性から十分な代表者をそのクラスタに有することを保証することで、個別レベルの公平性を強制する表現認識スペクトルクラスタリング手法—URepSC および NRepSC—を提案する。著者らは、新たな公平なプラントドパーティションモデルの下でこれらの手法の弱い一貫性を確立し、制約付きスペクトルクラスタリングにおける個別レベルの公平性に対する理論的保証を初めて得た。

ABSTRACT

Spectral clustering is popular among practitioners and theoreticians alike. While performance guarantees for spectral clustering are well understood, recent studies have focused on enforcing ``fairness'' in clusters, requiring them to be ``balanced'' with respect to a categorical sensitive node attribute (e.g. the race distribution in clusters must match the race distribution in the population). In this paper, we consider a setting where sensitive attributes indirectly manifest in an auxiliary extit{representation graph} rather than being directly observed. This graph specifies node pairs that can represent each other with respect to sensitive attributes and is observed in addition to the usual extit{similarity graph}. Our goal is to find clusters in the similarity graph while respecting a new individual-level fairness constraint encoded by the representation graph. We develop variants of unnormalized and normalized spectral clustering for this task and analyze their performance under a \emph{fair} planted partition model induced by the representation graph. This model uses both the cluster membership of the nodes and the structure of the representation graph to generate random similarity graphs. To the best of our knowledge, these are the first consistency results for constrained spectral clustering under an individual-level fairness constraint. Numerical results corroborate our theoretical findings.

研究の動機と目的

• 感受性属性が直接観測できない状況において、表現グラフを通じて間接的に推定される関係を用いて、スペクトルクラスタリングにおける公平性を強制すること。
• 感受性属性への直接アクセスを必要とせず、表現グラフを介して公平性を統合する新しいスペクトルクラスタリング変種（URepSC および NRepSC）の開発。
• クラスタ構造と表現グラフのトポロジーを統合した新しい公平なプラントドパーティションモデルを導入し、その下でこれらのアルゴリズムの理論的一貫性を確立すること。
• 提案手法が、表現グラフが理想的な正則性から逸脱しても、高いクラスタリング品質と強い公平性を維持することを実験的に示すこと。

提案手法

• 各ノードがそのクラスタに、自身の感受性属性に属する十分な代表者（表現グラフからのもの）を有することを保証する『表現制約』と呼ばれる、新たな個別レベルの公平性制約を形式化する。
• 表現グラフをクラスタリング目的関数内の公平性制約として統合した、URepSC（非正規化）および NRepSC（正規化）スペクトルクラスタリングの変種を提案する。
• クラスタメンバーシップと表現グラフ $\mathcal{R}$ の構造の両方に条件づけられたランダム類似度グラフを生成する $\mathcal{R}$-PP（表現認識プラントドパーティション）モデルを導入する。
• 表現グラフが $d$-正則である場合の $\mathcal{R}$-PP における URepSC および NRepSC の弱い一貫性を分析し、誤分類ノード数が $N$ に対して非線形的に増加することを証明する。
• 計算コストを削減するために、近似バージョン（URepSC (approx.)、NRepSC (approx.)）で低ランク近似を用いる。
• 合成データおよび FAO 貿易ネットワーク、航空輸送ネットワーク上で理論的結果を実験的に検証し、競争力のある ratio-cut と高い平均バランスを達成していることを示す。

実験結果

リサーチクエスチョン

• RQ1 表現グラフを介して推定される非直接観測可能な個別レベルの公平性制約のもとで、スペクトルクラスタリングが一貫性を示せるか。
• RQ2 表現グラフの構造が、制約付きスペクトルクラスタリングの一貫性と性能にどのように影響を与えるか。
• RQ3 クラスタ構造と表現グラフトポロジーを統合した新しいプラントドパーティションモデルが、公平性認識クラスタリングの理論的保証をもたらすか。
• RQ4 提案された表現認識スペクトルクラスタリング手法は、既存の公平クラスタリング手法と比較して、クラスタリング品質および公平性指標においてどのように差をつけるか。
• RQ5 表現グラフの $d$-正則性仮定が満たされない場合、アルゴリズムの近似バージョンは、性能と公平性をどの程度維持できるか。

主な発見

• 提案された URepSC および NRepSC アルゴリズムは、$d$-正則な表現グラフを前提とした $\mathcal{R}$-PP モデルにおいて弱い一貫性を達成しており、誤分類ノード数が高確率で $o(N)$ に留まることを示している。
• 理論的枠組みは、先行研究（例：Kleindessner et al., 2019）における集団レベルの公平性を一般化しており、彼らの結果はこの場合の特殊ケースとして回復される。
• 実世界のネットワーク（FAO 貿易および航空輸送ネットワーク）における実験結果から、アルゴリズムは競争力のある ratio-cut を維持しながら高い平均バランスを達成していることが示された。
• 近似バージョン（URepSC (approx.)、NRepSC (approx.)）は、低ランク近似のランク $R$ を調整することで、公平性とクラスタリング品質のトレードオフを制御可能に保っている。
• 表現グラフの $d$-正則性仮定が満たされない場合でも、アルゴリズムは有効に機能し、実用的状況におけるロバストネスを示している。
• ratio-cut と平均バランスの別々のプロットから、個別公平性はクラスタリング品質にわずかなコストを伴うが、大幅な公平性の向上をもたらすことが確認された。