[論文レビュー] DECAF: Generating Fair Synthetic Data Using Causally-Aware Generative Networks

Boris van Breugel, Trent Kyono+2 more|arXiv (Cornell University)|Oct 25, 2021

Ethics and Social Impacts of AI参考文献 24被引用数 26

ひとこと要約

DECAFは因果構造モデルを生成器に埋め込み、エッジの removals による推論時デバイアス除去を可能にすることにより、公平な合成表データを生成し、下流の公平性と収束性の保証を提供する因果GANである。

ABSTRACT

Machine learning models have been criticized for reflecting unfair biases in the training data. Instead of solving for this by introducing fair learning algorithms directly, we focus on generating fair synthetic data, such that any downstream learner is fair. Generating fair synthetic data from unfair data - while remaining truthful to the underlying data-generating process (DGP) - is non-trivial. In this paper, we introduce DECAF: a GAN-based fair synthetic data generator for tabular data. With DECAF we embed the DGP explicitly as a structural causal model in the input layers of the generator, allowing each variable to be reconstructed conditioned on its causal parents. This procedure enables inference time debiasing, where biased edges can be strategically removed for satisfying user-defined fairness requirements. The DECAF framework is versatile and compatible with several popular definitions of fairness. In our experiments, we show that DECAF successfully removes undesired bias and - in contrast to existing methods - is capable of generating high-quality synthetic data. Furthermore, we provide theoretical guarantees on the generator's convergence and the fairness of downstream models.

研究の動機と目的

• 公正な合成データの生成を動機づけ、学習データが偏っている場合でも下流モデルの公平性を確保する。
• 構造的因果モデルを組み込んだGANベースの枠組みを提案し、条件付きデータ生成機構を学習する。
• 因果グラフの偏ったエッジを除去して推論時のデバイアシングを実現し、ユーザー定義の公平性定義を満たす。
• 合成データ上で学習した下流モデルの公平性と生成器収束性に関する理論的保証を提供する。
• 複数の公平性定義との互換性を示し、エビデンスベースのデータ有用性が高いことを実証する。

提案手法

• 各変数を、その因果親 Pa(X_i) とノイズ Z_i に条件付けられた専用生成器 G_i でモデル化する。
• 根ノードを先に生成し、子ノードを以後生成する逐次的なDAGガイド付き条件付きGANを訓練する（式(2)）。
• 識別器 D を用いて生成サンプルと実データを識別し、標準的なGAN目的関数を最適化する（式(3)）。
• 推論時には学習済み因果グラフに介入し、コロラリー1–3を用いて公平性定義（CF, FTU, DP）を満たすように選択したエッジを削除する。
• 再学習なしでデバイアシング済みサンプルを生成するポスト処理アプローチ（代理 do 操作）を提供する。
• 因果的に適合する前提の下で生成器分布が真のデータ分布へ収束することを証明する（定理 2）。

実験結果

リサーチクエスチョン

• RQ1 GANベースの生成器はデータの真の因果条件付き分布を学習しつつ、公平な合成データ生成を可能にするか？
• RQ2 学習済み因果グラフに対する推論時介入は、再学習なしでどのようにさまざまな公平性概念（FTU、DP、CF）を達成できるか？
• RQ3 DECAF によって生成された合成データセットは、公平性制約を満たしつつ下流の予測有用性を保持するか？
• RQ4 DECAF の収束性と下流モデルの公平性に関する保証は何か？
• RQ5 DECAF は複数の公平性定義に対して、既存の公正データ生成手法と比較してどのように位置づけられるか？

主な発見

手法	精度↑	再現率↑	AUROC↑	FTU↓	DP↓
元データ D	0.920±0.006	0.936±0.008	0.807±0.004	0.116±0.028	0.180±0.010
GAN	0.607±0.080	0.439±0.037	0.567±0.132	0.023±0.010	0.089±0.008
WGAN-GP	0.683±0.015	0.914±0.005	0.798±0.009	0.120±0.014	0.189±0.024
FairGAN	0.681±0.023	0.814±0.079	0.766±0.029	0.009±0.002	0.097±0.018
DECAF-ND	0.780±0.023	0.920±0.045	0.781±0.007	0.152±0.013	0.198±0.013
DECAF-FTU	0.763±0.033	0.925±0.040	0.765±0.010	0.004±0.004	0.054±0.005
DECAF-CF	0.743±0.022	0.875±0.038	0.769±0.004	0.003±0.006	0.039±0.011
DECAF-DP	0.781±0.018	0.881±0.050	0.672±0.014	0.001±0.002	0.001±0.001

• DECAF は、推論時の因果エッジの削除を介して望ましくないバイアスを除去しつつ、現実的な合成データを生成できる。
• DECAF は複数の公平性定義（FTU、DP、CF）と互換性があり、望まれる概念に応じてデバイアシングを調整できる。
• 既知のDAG適合性の下で生成器分布が真のデータ分布へ収束するという理論的収束保証を提供する（定理 2）。
• Adultデータセットの実証結果は、デバイアリング下で基準手法よりデータ有用性（精度/再現率/AUROC）を高く、DECAF-DP はDP性能が特に強力であることを示す。
• DECAF はFairGANや標準GANと比較して下流予測性能（AUROC）が競争力ある、または優れており、公平性目標を達成している。
• 推論時のエッジ削除により再学習なしで複数の公平データセットを生成可能であり、タスク固有の公平性調整を柔軟に行える。