[論文レビュー] Fair Data Integration.

Sainyam Galhotra, Karthikeyan Shanmugam+2 more|arXiv (Cornell University)|Jun 10, 2020

Explainable Artificial Intelligence (XAI)参考文献 24被引用数 4

ひとこと要約

本論文は、予測性能を維持しながらバイアスを排除する最小限の特徴量のセットを特定することにより、データ統合における公平性を保証する因果的・介入ベースのアプローチを提案する。条件付き独立性検定とグループテストを用いることで、非線形の複雑さを達成し、事前に指定された構造的因果モデルを必要とせずに介入的公平性を保証する。

ABSTRACT

The use of machine learning (ML) in high-stakes societal decisions has encouraged the consideration of fairness throughout the ML lifecycle. Although data integration is one of the primary steps to generate high quality training data, most of the fairness literature ignores this stage. In this work, we consider fairness in the integration component of data management, aiming to identify features that improve prediction without adding any bias to the dataset. We work under the causal interventional fairness paradigm. Without requiring the underlying structural causal model a priori, we propose an approach to identify a sub-collection of features that ensure the fairness of the dataset by performing conditional independence tests between different subsets of features. We use group testing to improve the complexity of the approach. We theoretically prove the correctness of the proposed algorithm to identify features that ensure interventional fairness and show that sub-linear conditional independence tests are sufficient to identify these variables. A detailed empirical evaluation is performed on real-world datasets to demonstrate the efficacy and efficiency of our technique.

研究の動機と目的

• 機械学習ライフサイクルにおける公平性に配慮したデータ統合のギャップを埋める。
• データセットにバイアスを導入せずにモデルの予測性能を向上させる特徴量を同定する。
• 事前に指定された構造的因果モデルを必要とせずに、データ統合における介入的公平性を保証する。
• グループテスト技術を用いて、公平性同定の計算複雑度を低減する。

提案手法

• 本手法は、介入下での出力変数と特徴量サブセットの間の関係を評価するために条件付き独立性検定を用いる。
• バイアスを導入しないで安全に含められる特徴量を特定するために、因果的介入的公平性フレームワークを用いる。
• グループテストを適用して、公平性を保証する最小限の特徴量のセットを効率的に同定し、必要な条件付き独立性検定の数を削減する。
• アルゴリズムは既知の構造的因果モデルを仮定せず、観測データと統計的検定にのみ依存する。
• 理論的分析により、公平性を保証する特徴量を同定するために非線形の条件付き独立性検定が十分であることが証明される。
• 本手法は正しくかつ効率的に設計されており、公平性と予測性能のバランスをとる。

実験結果

リサーチクエスチョン

• RQ1 どの特徴量をデータセットに統合してもバイアスを導入せず、予測の有用性を維持できるか？
• RQ2 根底にある構造的因果モデルの事前知識がなくても、データ統合における公平性をどのように保証できるか？
• RQ3 正しい公平性特徴量の同定を維持しながら、条件付き独立性検定の数を削減できるか？
• RQ4 データ統合における公平性を保証する特徴量を同定するための理論的複雑度の上限は何か？
• RQ5 既存の公平性に配慮したデータ統合手法と比較して、本手法は効率的かつ効果的か？

主な発見

• 提案されたアルゴリズムは、構造的因果モデルを必要とせずに、データ統合における介入的公平性を正しく同定する。
• 非線形の条件付き独立性検定が、公平性を保証する特徴量を同定するために理論的に十分であり、計算コストを顕著に低減する。
• グループテストの統合により、実世界のデータセットにおけるスケーラブルな公平性分析が可能になる。
• 実世界のデータセットを用いた実証的評価により、本手法が高品質な学習データをサポートしながら公平性を維持していることが確認された。
• 本手法は公平性と予測性能のバランスをとることができ、実世界のデータ統合パイプラインにおける実用的妥当性を示した。