[論文レビュー] Conditional Learning of Fair Representations

Han Zhao, Amanda Coston+2 more|arXiv (Cornell University)|Oct 16, 2019

Ethics and Social Impacts of AI参考文献 36被引用数 18

ひとこと要約

本論文は、バランス誤差率（BER）と表現の条件付きアライメントを活用することで、同時に精度パラリティと等しいオッズを達成する、公平な表現を学習するための新規アルゴリズムを提案する。この手法は、目的変数および感受性属性の両方でBERを最適化し、デモグラフィックパラメータのパラメータに損なわれることなく、バランスの取れたデータセット上で優れたユーティリティ-公平性のトレードオフを実現する。

ABSTRACT

We propose a novel algorithm for learning fair representations that can simultaneously mitigate two notions of disparity among different demographic subgroups in the classification setting. Two key components underpinning the design of our algorithm are balanced error rate and conditional alignment of representations. We show how these two components contribute to ensuring accuracy parity and equalized false-positive and false-negative rates across groups without impacting demographic parity. Furthermore, we also demonstrate both in theory and on two real-world experiments that the proposed algorithm leads to a better utility-fairness trade-off on balanced datasets compared with existing algorithms on learning fair representations for classification.

研究の動機と目的

• 精度パラリティと等しいオッズが公平な表現学習において同時に実現可能かどうかという未解決の問いに応えること。
• ユーティリティやデモグラフィックパラメータのパラメータを損なうことなく、デモグラフィックサブグループ全体にわたる公平性を保証する手法を設計すること。
• バランス誤差率（BER）と条件付きアライメントが同時に公平性保証を可能にする理論的および実験的妥当性を検証すること。
• 既存の手法と比較して、バランスの取れた実世界のデータセット上でのユーティリティ-公平性のトレードオフを改善すること。

提案手法

• 公平な表現学習を、目的変数および感受性属性の両方でBERを同時に最適化するミニマックス問題として定式化する。
• 目的変数を条件とする表現の条件付き分布をアライメントすることで、デモグラフィックサブグループ間での表現の条件付きアライメントを強制する。
• ミニマックス問題をコストセンシティブ学習に還元し、標準的な機械学習パイプラインを用いて効率的な最適化を可能にする。
• バランス誤差率（BER）を主な損失関数として用い、グループ間で等しい誤差率を確保するとともに、結合誤差を上限で制御する。
• 感受性属性の周辺分布を直接制約しないことで、デモグラフィックパラメータを維持する。
• 段階的学習によりアルゴリズムを訓練し、各段階で線形ミニマックスサドルポイント問題を解くことで、公平性とユーティリティを段階的に向上させる。

実験結果

リサーチクエスチョン

• RQ1 デモグラフィックパラメータに損なわれることなく、表現学習において精度パラリティと等しいオッズを同時に達成できるか？
• RQ2 バランス誤差率（BER）が、グループ間の誤差を制御し、結合誤差を上限で制御するという観点で、公平性を保証する理論的役割は何か？
• RQ3 表現の条件付きアライメントが、等しいオッズと精度パラリティを達成するために果たす貢献は何か？
• RQ4 提案手法は、バランスの取れたデータセット上で、既存の公平な表現学習アルゴリズムと比較してより優れたユーティリティ-公平性のトレードオフを達成するか？
• RQ5 公平な表現学習の文脈において、BER、等しいオッズ、デモグラフィックパラメータの関係は何か？

主な発見

• 提案されたアルゴリズムは、バランス誤差率（BER）と表現の条件付きアライメントを組み合わせることで、同時に精度パラリティと等しいオッズを達成する。
• 等しいオッズが満たされた場合、BERがデモグラフィックサブグループ間の結合誤差の上界として機能することが理論的に証明された。
• この手法は、デモグラフィックパラメータを劣化させることなく維持するため、等しいオッズが達成された際に「無料で」デモグラフィックパラメータが保持される。
• バランスの取れたデータセット上では、既存の公平な表現学習手法と比較して、より優れたユーティリティ-公平性のトレードオフを示した。
• アンバランスなデータセット上では、このアルゴリズムが唯一、精度パラリティを達成するが、全体のユーティリティにコストがかかる。
• 理論的分析により、BERが公平性の確保と誤差の上限制御において根幹的な役割を果たすことが確認され、損失関数において周辺誤差よりもBERを用いる正当性が裏付けられた。