[論文レビュー] The Price of Fair PCA: One Extra dimension

Samira Samadi, Uthaipon Tantipongpipat+3 more|arXiv (Cornell University)|Oct 31, 2018

Statistical Methods and Inference被引用数 60

ひとこと要約

この論文では、Fair PCAを紹介する。Fair PCAは多項式時間で動作するアルゴリズムであり、次元削減の際に2つの集団（例：男性と女性、または異なる教育水準）間で同じ再構成誤差を確保する。標準PCAは片方の集団に有利になることがあるが、Fair PCAはたった1つの追加次元でほぼ最適な公平性を達成し、実世界のデータセットにおいて代表されない集団の忠実度を著しく向上させる。

ABSTRACT

We investigate whether the standard dimensionality reduction technique of PCA inadvertently produces data representations with different fidelity for two different populations. We show on several real-world data sets, PCA has higher reconstruction error on population A than on B (for example, women versus men or lower- versus higher-educated individuals). This can happen even when the data set has a similar number of samples from A and B. This motivates our study of dimensionality reduction techniques which maintain similar fidelity for A and B. We define the notion of Fair PCA and give a polynomial-time algorithm for finding a low dimensional representation of the data which is nearly-optimal with respect to this measure. Finally, we show on real-world data sets that our algorithm can be used to efficiently generate a fair low dimensional representation of the data.

研究の動機と目的

• 標準PCAが、ある人種的・文化的グループに対して他のグループよりも高い再構成誤差を生じさせることはないかを調査すること。
• 次元削減における公平性の形式的定義、すなわちFair PCAを提示し、集団間で再構成忠実度がバランスされるようにすること。
• ほぼ最適な公平性を持つ低次元表現を求める多項式時間のアルゴリズムを開発すること。
• 実世界のデータセットにおいて、Fair PCAがグループ間の再構成誤差のバランスを改善することを経験的に検証すること。

提案手法

• 2つの集団間の最大再構成誤差を最小化する公平性に配慮したPCAの変種としてFair PCAを提案すること。
• 再構成誤差に公平性制約を課した凸最適化問題としてFair PCAを定式化すること。
• 公平性のしきい値を二分探索することで、最適化問題を効率的に解くこと。
• 標準PCAの解に1次元の拡張を導入することで、次元コストを最小限に抑えながら公平性を達成すること。
• 凸最適化技術を活用することで、アルゴリズムが多項式時間で実行されることを保証すること。
• 実世界のデータセットにこの手法を適用し、公平性と再構成性能を評価すること。

実験結果

リサーチクエスチョン

• RQ1 サンプルサイズがバランスされている場合でも、標準PCAが1つの人口統計的グループに対して他よりも顕著に高い再構成誤差を生じさせるか？
• RQ2 2つの集団間で再構成忠実度が類似するように保証できる次元削減手法を設計できるか？
• RQ3 公平な次元削減を達成するために必要な最小の追加次元はいくつか？
• RQ4 提案されたFair PCAアルゴリズムは、標準PCAと比較して公平性と再構成誤差の両面で優れているか？

主な発見

• サンプルサイズがバランスされている場合でも、標準PCAはある人口統計的グループ（例：女性や教育水準が低い人々）に対して、他よりも高い再構成誤差を示す。
• Fair PCAは、標準PCAに比べてたった1つの追加次元でほぼ最適な公平性を達成する。
• 実世界のデータセットにおいて、Fair PCAは集団間の再構成誤差の乖離を著しく低減する。
• アルゴリズムは多項式時間で実行可能であり、実用的なスケーラビリティを備えている。