[論文レビュー] Impartial Predictive Modeling: Ensuring Group Fairness in Arbitrary Models

Kory D. Johnson, Dean P. Foster+1 more|arXiv (Cornell University)|Aug 1, 2016

Ethics and Social Impacts of AI参考文献 32被引用数 18

ひとこと要約

本稿では、感受性属性を中立的な共変量として扱うことで、部分的データ設定における保守的推定を回帰分解を用いて可能にする、中立的予測モデリングのフレームワークを提案する。予測と公平性の目的を分離し、説明可能な変動と差別のを区別することで、任意のモデルに普遍的に適用可能な後処理補正を実現する。

ABSTRACT

Fairness aware data mining (FADM) aims to prevent algorithms from discriminating against protected groups. The literature has come to an impasse as to what constitutes explainable variability as opposed to discrimination. We demonstrate that fairness is achieved by ensuring \emph{impartiality} with respect to sensitive characteristics and provide a framework for impartiality by accounting for different perspectives on the data generating process. In particular, fairness can only be precisely defined in a full-data scenario in which all covariates are observed. We then analyze how these models may be conservatively estimated via regression in partial-data settings. Decomposing the regression estimates provides insights into previously unexplored distinctions between explainable variability and discrimination. This framework yields a set of impartial estimates that are applicable in a wide variety of situations and post-processing tools to correct estimates from arbitrary models. This effectively separates prediction and fairness goals.

研究の動機と目的

• 機械学習における公平性の定義の曖昧さ、特に説明可能な変動と実際の差別の混同を解消すること。
• すべての共変量（感受性属性を含む）が観測される完全データ設定下での、感受性特性に対する中立性に基づく公式な公平性の定義を確立すること。
• 一部の共変量が観測されない（部分的データ設定）状況下で、公平なモデルを保守的に推定する手法を開発すること。
• 回帰推定を分解することで、これまで未解明であった、説明可能な変動と差別のとの違いを明らかにすること。
• 任意のモデルからの予測を修正するための後処理ツールを提供し、保護されるグループ間での公平性を維持すること。

提案手法

• 感受性特性に対する中立性の観点から公平性を定義し、バイアス補正の対象ではなく共変量として扱う。
• すべての共変量（感受性属性を含む）が観測され、同時にモデル化される完全データ設定における公平性を形式化する。
• 回帰分解を用いて、感受性属性が予測にどのように寄与するかを分析し、説明可能な変動と差別のの役割を分離する。
• 一部の共変量が観測されない状況下での保守的推定技術を提案し、不確実性下でも公平性が保たれることを保証する。
• 感受性属性のモデルへの含め方に関わらず不変である中立的推定を導出し、後処理補正を可能にする。
• 任意のモデルからの予測を再訓練せずに、グループ公平性を保証するように調整する後処理ツールを設計する。

実験結果

リサーチクエスチョン

• RQ1 すべての共変量（感受性属性を含む）がデータに観測される状況で、公平性をどのように明確に定義できるか？
• RQ2 予測モデルにおいて、感受性属性に起因する説明可能な変動と実際の差別とは、どのように区別できるか？
• RQ3 一部の共変量が観測されない、もしくは部分的に観測される状況下で、どのように中立的モデルを保守的に推定できるか？
• RQ4 回帰分解は、公平性と説明可能な変動との間にこれまで隠れていた違いをどのように明らかにするか？
• RQ5 後処理ツールは、任意のモデルからの予測を修正するために普遍的に適用可能であり、グループ公平性を保証できるか？

主な発見

• すべての共変量が観測される完全データの文脈下で、感受性特性に対する中立性を通した公平性の定義が最適である。
• 回帰分解により、感受性属性に起因するとされる一部の変動は説明可能であり、差別的ではないことが明らかになり、従来の曖昧さが解消された。
• 未観測の共変量を考慮することで、部分的データ設定下での公平なモデルの保守的推定が可能になった。
• 本フレームワークから導かれた後処理ツールは、任意のモデルからの予測を修正し、グループ公平性を達成できる。
• 予測と公平性の目的を分離することで、再訓練を必要としない柔軟でモデルに依存しない公平性補正が可能になった。
• 本アプローチは、モデル出力における正当な変動と不公正なバイアスを区別する原理的かつ整合性のある方法を提供する。