[論文レビュー] README: REpresentation learning by fairness-Aware Disentangling MEthod

Sungho Park, Dohyung Kim+2 more|arXiv (Cornell University)|Jul 7, 2020

Face recognition and analysis参考文献 34被引用数 9

ひとこと要約

本稿では、潜在表現を3つの独立した部分空間に分離するFairness-aware Disentangling Variational Autoencoder (FD-VAE)を提案する。これらは、目的属性（TAL）、保護属性（PAL）、および共通属性（MAL）からなる。PALを除外し、MALを変換して保護属性の情報を除去することで、FD-VAEは、等価機会と等価オッズの両面で、CelebAおよびUTK Faceデータセットにおいて、先行する最先端手法を大きく上回るフェアネスと精度のトレードオフを達成するFairな下流分類を可能にする。

ABSTRACT

Fair representation learning aims to encode invariant representation with respect to the protected attribute, such as gender or age. In this paper, we design Fairness-aware Disentangling Variational AutoEncoder (FD-VAE) for fair representation learning. This network disentangles latent space into three subspaces with a decorrelation loss that encourages each subspace to contain independent information: 1) target attribute information, 2) protected attribute information, 3) mutual attribute information. After the representation learning, this disentangled representation is leveraged for fairer downstream classification by excluding the subspace with the protected attribute information. We demonstrate the effectiveness of our model through extensive experiments on CelebA and UTK Face datasets. Our method outperforms the previous state-of-the-art method by large margins in terms of equal opportunity and equalized odds.

研究の動機と目的

• 保護属性の信号を除去する際、既存の分離表現学習手法が、望ましくない目的属性の情報を同時に破棄してしまうという限界に対処すること。
• 潜在表現を目的属性、保護属性、共通属性という3つの明確な部分空間に明示的に分離することで、下流分類におけるフェアネスを向上させること。
• TALが目的属性の情報のみを含み、PALが保護属性の情報のみを含むように保証するためのデコリエーション損失を提案し、精度を損なうことなくフェアネスを向上させること。
• MAL（共通属性潜在）を変換することで、保護属性の影響を除去しつつも、判別性の高い情報を保持できることを検証し、フェアネスと精度の向上を実現すること。
• CelebAやUTK Faceといったベンチマークデータセットにおいて、先行する最先端手法と比較して優れたフェアネスと精度のトレードオフを達成すること。

提案手法

• FD-VAEは、潜在空間を3つの部分空間に分離する：TAL（目的属性潜在）、PAL（保護属性潜在）、MAL（共通属性潜在）で、これらが互いに独立していることを保証する。
• TALが目的属性の情報のみを符号化し、PALが保護属性の情報のみを符号化するよう促すために、分類損失（L_CLS）と敵対的損失（L_ADV）を組み合わせた新しいデコリエーション損失を導入する。
• MALは変換（z_n）され、保護属性の情報を除去することで、下流分類に使用する際にバイアスを導入しないようにする。
• 下流分類では、PALを完全に除外し、TALと変換済みMAL（z_n）を用いることで、保護属性に関してフェアな分類を保証する。
• 保護属性の影響を抑制しつつ、目的属性と共通属性の両方の情報を活用することで、フェアネスと精度のトレードオフを改善する。
• 本手法は、提案されたデコリエーション損失と補助的監視を用いて、VAEベースのフレームワーク上でエンドツーエンドで訓練される。

実験結果

リサーチクエスチョン

• RQ1 目的属性、保護属性、共通属性という3つの明確な部分空間に潜在表現を分離することで、下流分類におけるフェアネスが向上するか？
• RQ2 PALを除外し、変換済みMAL（z_n）を活用することで、既存の分離表現学習手法と比較して、より優れたフェアネスと精度のトレードオフが達成できるか？
• RQ3 提案されたデコリエーション損失は、潜在空間における目的属性と保護属性の間の情報漏洩をどの程度低減するか？
• RQ4 MALの含め方と変換の有無は、TALのみを使用する場合と比較して、フェアネスと分類精度にどのような影響を及ぼすか？
• RQ5 FD-VAEは、CelebAやUTK Faceといった実世界のデータセットにおいて、等価機会や等価オッズといったフェアネス指標で、最先端の性能を達成できるか？

主な発見

• CelebAデータセットでは、FD-VAEは、以前の最先端手法（FFVAE）に対して、等価機会で16.4%、等価オッズで12.6%の向上を達成した。
• UTK Faceデータセットでは、FD-VAEは、以前のSOTAと比較して、等価機会で2.3%、等価オッズで2.0%のフェアネス向上を達成した。
• アブレーションスタディの結果、L_CLS損失を追加するとフェアネスと精度が向上し、L_CLS + L_ADVの完全なデコリエーション損失を追加すると、等価機会と等価オッズの両方でそれぞれ12.2%と10.5%のフェアネススコア上昇が確認された。
• MALを変換しない状態で使用するとフェアネスが著しく低下するが、MALを変換（z_n）することで、高いフェアネスを維持しつつ精度が向上し、その有効性が確認された。
• FD-VAEは、FFVAEと同等の分類精度を達成しながら、フェアネス指標で著しく優れており、フェアネスと精度のトレードオフがより優れていることが示された。
• 本モデルは、CelebAおよびUTK Faceデータセットの両方で頑健な性能を示し、異なるデータ分布と属性の組み合わせにわたる一般化能力を確認した。