[論文レビュー] Deep Fair Discriminative Clustering

Hongjing Zhang, Ian Davidson|arXiv (Cornell University)|May 28, 2021

Face and Expression Recognition参考文献 35被引用数 4

ひとこと要約

本稿では、完全単模性制約を備えた整数線形計画法（ILP）定式化を用いて、グループレベルの公平性を深層クラスタリングに統合する、Deep Fair Discriminative Clusteringという新規フレームワークを提案する。これにより、効率的かつ正確に公平なクラスタ割り当てが可能になる。本手法は、この公平な割り当てを、判別的な深層クラスタリングバックボーンおよび対照学習と組み合わせ、実世界のデータセット（複数状態の保護状態変数および柔軟な公平性制約を含む）において、近似的に最適な公平性と競争力のあるクラスタリング性能を達成する。

ABSTRACT

Deep clustering has the potential to learn a strong representation and hence better clustering performance compared to traditional clustering methods such as $k$-means and spectral clustering. However, this strong representation learning ability may make the clustering unfair by discovering surrogates for protected information which we empirically show in our experiments. In this work, we study a general notion of group-level fairness for both binary and multi-state protected status variables (PSVs). We begin by formulating the group-level fairness problem as an integer linear programming formulation whose totally unimodular constraint matrix means it can be efficiently solved via linear programming. We then show how to inject this solver into a discriminative deep clustering backbone and hence propose a refinement learning algorithm to combine the clustering goal with the fairness objective to learn fair clusters adaptively. Experimental results on real-world datasets demonstrate that our model consistently outperforms state-of-the-art fair clustering algorithms. Our framework shows promising results for novel clustering tasks including flexible fairness constraints, multi-state PSVs and predictive clustering.

研究の動機と目的

• 保護状態変数（PSV）に関連するバイアスが表現学習によって強化される、深層学習における不公平なクラスタリングの課題に対処すること。
• 二値および複数状態のPSVの両方に対して、グループレベルの公平性を強制するスケーラブルでエンド・ツー・エンドの深層クラスタリングフレームワークを構築すること。
• 地域ごとのレギュラトリ規制の違いを反映できる柔軟な公平性制約を可能にすること。
• 深層表現学習と離散最適化を統合し、コンパクトで公平かつ意味のあるクラスタを生成すること。

提案手法

• 完全単模性制約行列を備えた整数線形計画法（ILP）問題としてグループレベルの公平性を定式化し、線形計画法により正確な整数解が保証されるようにする。
• ILPソルバを判別的な深層クラスタリングバックボーンに統合し、クラスタ割り当てを精緻化しつつ、クラスタリング品質を維持する。
• クラスタリング目的、公平性制約、自己教師型対照学習を同時に最適化するリファインメント学習アルゴリズムを用いる。
• 全モデルをエンド・ツー・エンドで訓練し、公平な割り当て層を介してバックプロパゲーションを可能にする。
• 保護状態変数の多状態を扱うために、差別の的影響の法的原則下でバランス測度と同等となるように、公平性測度を一般化する。
• 許容誤差区間内で最適な公平性条件を緩和することで、地域やアプリケーションごとの異なる公平性基準に適合した実用的展開を可能にする。

実験結果

リサーチクエスチョン

• RQ1 事前処理やインスタンスレベルの制約に依存せずに、グループレベルの公平性を保証する深層クラスタリングは可能か？
• RQ2 複数状態の保護状態変数のグループレベル公平性を、エンド・ツー・エンドの深層学習フレームワークで形式的に定義し最適化できるか？
• RQ3 完全単模性を有するILP定式化は、正確な公平なクラスタ割り当てを保証するために、深層クラスタリングパイプラインに効果的に統合可能か？
• RQ4 地域やアプリケーションによって異なる柔軟な公平性制約下で、モデルの性能はどの程度保たれるか？
• RQ5 公平性の強制がクラスタリング性能にどの程度向上効果をもたらすか、また公平性と精度のトレードオフをどのように管理できるか？

主な発見

• 提案モデルは、MNIST-USPSテストセットで近似的に最適な公平性（バランス = 0.200）を達成しながら、競争力のあるクラスタリング性能（NMI = 0.865、Acc = 0.930）を維持した。
• Reverse-MNISTデータセットでは、テストセットでバランスが0.890に達し、最適値1.000に近づき、高いクラスタリング精度（Acc = 0.562）を示した。
• HARデータセットでは、テストセットでバランスが0.167に達し、高次元で複雑なパターンを有する実世界データでも有効性を示した。
• 公平性制約を緩和（εを増加）すると、期待通りバランスが低下するが、同時にクラスタリング精度も低下するため、公平性と性能のトレードオフが確認された。
• 特徴空間の可視化から、公平性制約がバイアスの強いインスタンス（例：t-SNE上での赤と青）を、コンパクト性を損なわずによりバランスの取れたクラスタに再割り当てしていることが明らかになった。
• 経験的収束解析から、50エポックを過ぎると訓練損失とバランス指標が安定し、安定的で滑らかな最適化が実現していることが確認された。