[論文レビュー] Fairness Through Awareness

Cynthia Dwork, Moritz Hardt+3 more|arXiv (Cornell University)|Apr 20, 2011

Privacy-Preserving Technologies in Data参考文献 14被引用数 43

ひとこと要約

本稿は、分類タスク固有の類似度メトリクスを用いて、類似する個人が類似した方法で扱われるよう保証する公平性フレームワークを導入する。これは分類器に対するリプシッツ条件として形式化される。公平性は、ユーティリティを最適化しつつ個別的公平性を保証する線形計画問題として定式化され、このアプローチにより、公平性を損なわず、間接的差別を許容しない統計的同等性を達成できることを示している。

ABSTRACT

We study fairness in classification, where individuals are classified, e.g., admitted to a university, and the goal is to prevent discrimination against individuals based on their membership in some group, while maintaining utility for the classifier (the university). The main conceptual contribution of this paper is a framework for fair classification comprising (1) a (hypothetical) task-specific metric for determining the degree to which individuals are similar with respect to the classification task at hand; (2) an algorithm for maximizing utility subject to the fairness constraint, that similar individuals are treated similarly. We also present an adaptation of our approach to achieve the complementary goal of "fair affirmative action," which guarantees statistical parity (i.e., the demographics of the set of individuals receiving any classification are the same as the demographics of the underlying population), while treating similar individuals as similarly as possible. Finally, we discuss the relationship of fairness to privacy: when fairness implies privacy, and how tools developed in the context of differential privacy may be applied to fairness.

研究の動機と目的

• 分類システムにおける差別のを防ぐ挑戦に取り組みつつ、分類器のユーティリティを維持すること。
• グループレベルの統計ではなく、個人の類似性に基づく、規範的公平性フレームワークを構築すること。
• ユーティリティを最大化する最適化問題として公平性を定式化し、類似度メトリクスに基づくリプシッツ制約を適用すること。
• 公平性とプライバシーの関係、特に公平性制約が保護された属性に関する情報漏洩をどのように制限するかを調査すること。
• 個別的公平性が、統計的同等性などのグループレベルの公平性特性とどのように関係するか、あるいは共存するかを調査すること。

提案手法

• 与えられた分類タスクにおける個人間の類似度を定量化するため、タスク固有の公開距離メトリクス $ d(x,y) $ を定義する。
• 公平性をリプシッツ条件として形式化する：個人 $ x $ と $ y $ の結果分布間の統計的距離は、$ d(x,y) $ 以下でなければならない。
• 分類器を、個人から結果分布への確率的写像としてモデル化し、個人の特徴の微小な変化が結果確率に微小な変化をもたらすように保証する。
• リプシッツ公平性制約を満たすように期待ユーティリティ損失を最小化する線形計画問題として、公平な分類器設計を定式化する。
• 線形計画問題の双対性を用いて、公平性制約の解釈とユーティリティとのトレードオフを分析する。
• 個別的公平性と統計的同等性の両方を満たすようにフレームワークを拡張し、「公平な好意的措置」を達成する。

実験結果

リサーチクエスチョン

• RQ1 グループレベルの統計に依存せずに、類似する個人が類似した方法で扱われるよう、分類における公平性をどのように形式化できるか？
• RQ2 類似度メトリクスに基づく個別的公平性（リプシッツ制約）を、分類器のユーティリティを損なわず、どのように効率的に最適化できるか？
• RQ3 リプシッツ制約による個別的公平性と、統計的同等性などのグループ公平性（例：統計的同等性）の関係は何か？
• RQ4 分類における公平性制約は、保護された属性の推論を防ぐという意味で、プライバシー保護の手段としても機能する可能性はあるか？
• RQ5 どのような条件下で、個別的公平性が、感受性のある属性に関する情報漏洩を示唆するか、あるいは防ぐか？

主な発見

• フレームワークは、タスク固有のメトリクスで定義された類似する個人が類似した結果分布を受けるよう保証するリプシッツ条件に基づいて公平性を形式化する。
• 公平な分類器を構築する最適化問題は、線形計画問題として効率的に解けるため、実用的導入が可能である。
• 適切な条件下では、リプシッツ条件による個別的公平性が統計的同等性を示唆するが、統計的同等性だけでは、個別レベルでの公平性を保証するには不十分である。
• フレームワークは、個別的公平性と人口的同等性の両方を満たすように調整でき、「公平な好意的措置」を達成できる。
• 統計的同等性は保護されたグループに関する情報を隠すことができるが、間接的推論に対しては頑健ではない。広告主は、「HIV陽性」が保護された属性であっても、「AIDS」のようなサブグループをターゲットにできる。
• 適切に選ばれたメトリクスを用いたリプシッツ条件は、統計的同等性よりも強いプライバシー保証を提供する可能性があるが、これはさらなる調査を要する。