[論文レビュー] On conditional parity as a notion of non-discrimination in machine learning

Ya’acov Ritov, Yuekai Sun+1 more|arXiv (Cornell University)|Jun 26, 2017

Adversarial Robustness in Machine Learning参考文献 15被引用数 20

ひとこと要約

本稿では、機械学習における非差別性の統一的枠組みとして、条件付き同等性（CP）を導入し、既存の概念（例：人口統計的同等性、反事後的公平性）を包含する。CP用のカーネルベースの統計的検定を提案し、保険料の差別的設定を検出する応用を示しており、CPが後処理に対して不変であること、およびヒルバート＝シュミット独立基準を用いた実証的検定が可能であることを示している。

ABSTRACT

We identify conditional parity as a general notion of non-discrimination in machine learning. In fact, several recently proposed notions of non-discrimination, including a few counterfactual notions, are instances of conditional parity. We show that conditional parity is amenable to statistical analysis by studying randomization as a general mechanism for achieving conditional parity and a kernel-based test of conditional parity.

研究の動機と目的

• 多様な非差別性の概念を1つの形式的枠組みに統合すること。
• 条件付き同等性（CP）を、一般かつ統計的に分析可能な公平性基準として確立すること。
• 条件付き同等性の違反を検出するためのカーネルベースの統計的検定を開発すること。
• 保険料格差の実証的分析を通じて、CPの実用的有用性を示すこと。
• CPがモデル出力の後処理に対して不変であることを示し、MLパイプラインにおける強固な公平性の実現を可能にすること。

提案手法

• 保護属性が特定の条件変数の下で結果分布に与える影響が不変であることを形式的基準としてCPを提案する。
• 分布距離を用いたε-条件付き同等性を定義し、近似的な公平性の検定を可能にする。
• 保護属性と結果の条件付き独立性を評価するために、ヒルバート＝シュミット独立基準（HSIC）を用いたカーネルベースのCP検定を構築する。
• 特徴量、保護属性、共変量のための中心化されたグラム行列とカーネル行列を用いて、HSICに基づく検定統計量の閉形式表現を導出する。
• 実世界の保険料データを用い、結果を地域の人口統計と車両の特徴の関数としてモデル化する。
• HSIC検定における条件付き期待値の推定を安定化させるために、カーネルリッジ回帰フレームワークで正則化（λ）を用いる。

実験結果

リサーチクエスチョン

• RQ1 条件付き同等性は、人口統計的同等性、等しいオッズ、反事後的公平性といった既存の公平性概念を包含する統一的枠組みとして機能できるか？
• RQ2 特にカーネル手法を用いる場合、条件付き同等性は統計的検定に適しているか？
• RQ3 カーネルベースの検定は、差別的保険料設定のような実世界のデータにおいて、条件付き同等性の違反をどのように検出できるか？
• RQ4 モデル出力の後処理変換に対しても、提案された検定は有効かつ頑健であるか？
• RQ5 リスク要因を調整した上で、少数派の地域における保険料格差をどの程度検出できるか？

主な発見

• 条件付き同等性は、人口統計的同等性、等しいオッズ、等しい機会、反事後的公平性といった、既存の公平性定義を特別なケースとして包含する。
• 条件付き同等性用のカーネルベースの検定は、後処理に対して不変であるため、モデル出力が変換されても公平性が保持される。
• カーネル行列と中心化されたグラム行列を用いて、条件付き同等性の検定統計量を閉形式で導出でき、計算が効率的である。
• 保険データへの実証的応用から、リスク要因を条件付けた後でも、少数派地域に住むドライバーに対して顕著な保険料格差が生じていることが判明した。
• HSICに基づく検定は、保護属性（例：地域の民族的背景）と結果（例：保険料）の間の条件付き依存性を効果的に検出でき、非差別性違反の兆候を示している。
• 理論的分析により、正則性条件の下で検定統計量が明確な形に収束することが確認され、有限標本設定における使用が妥当であることが裏付けられている。