[論文レビュー] A continuous framework for fairness.

Philipp Hacker, Emil Wiedemann|arXiv (Cornell University)|Dec 21, 2017

Ethics and Social Impacts of AI被引用数 15

ひとこと要約

本論文は、最適輸送理論とバリセンター計算を用いて、個人の公平性と集団の公平性の間を連続的に入れ替えることのできる後処理手法である連続的公平性アルゴリズム（CFA$\theta$）を導入する。この手法により意思決定者は、交差差別を含むさまざまな文脈的ニーズに応じて公平性のトレードオフを調整可能となる。実用応用例は大学進学選抜、信用スコアリング、保険分野に及ぶ。

ABSTRACT

Increasingly, discrimination by algorithms is perceived as a societal and legal problem. As a response, a number of criteria for implementing algorithmic fairness in machine learning have been developed in the literature. This paper proposes the Continuous Fairness Algorithm (CFA$ heta$) which enables a continuous interpolation between different fairness definitions. More specifically, we make three main contributions to the existing literature. First, our approach allows the decision maker to continuously vary between concepts of individual and group fairness. As a consequence, the algorithm enables the decision maker to adopt intermediate worldviews on the degree of discrimination encoded in algorithmic processes, adding nuance to the extreme cases of we're all equal (WAE) and you see is what you get (WYSIWYG) proposed so far in the literature. Second, we use optimal transport theory, and specifically the concept of the barycenter, to maximize decision maker utility under the chosen fairness constraints. Third, the algorithm is able to handle cases of intersectionality, i.e., of multi-dimensional discrimination of certain groups on grounds of several criteria. We discuss three main examples (college admissions; credit application; insurance contracts) and map out the policy implications of our approach. The explicit formalization of the trade-off between individual and group fairness allows this post-processing approach to be tailored to different situational contexts in which one or the other fairness criterion may take precedence.

研究の動機と目的

• アルゴリズムによる差別に関する社会的・法的懸念に応えるための柔軟な公平性フレームワークを提供すること。
• 二元的公平性定義を越えて、個人の公平性（WYSIWYG）と集団の公平性（WAE）の間を連続的に入れ替えることのできる、連続的補間を可能にすること。
• 複数の保護属性にわたる多次元的差別をモデル化することで、交差差別を統合すること。
• 最適輸送理論を用いて、動的に調整可能な公平性制約下で意思決定者のユーティリティを最大化すること。
• 大学進学選抜、信用申請、保険契約における実世界の事例研究を通じて、政策に役立つインサイトを提供すること。

提案手法

• フレームワークは最適輸送理論を用いて、確率測度のバリセンターを計算し、個人の公平性と集団の公平性の間の公平な妥協を表す。
• 公平性を、個人の公平性（WYSIWYG）と集団の公平性（WAE）の間を補間する連続的パラメータ $\theta$ として定式化する。
• アルゴリズムは、モデル出力に後処理変換を適用し、$\theta$ で定義された公平性制約を満たすようにするが、可能な限りユーティリティを保持する。
• 交差差別を扱うために、バリセンター定式化を複数の保護属性を同時に扱うように拡張する。
• 輸送計画における凸最適化を用いて、公平性制約下での意思決定者のユーティリティ最適化を図る。
• この手法は元のモデルに依存しないため、任意の事前に訓練された分類器に対して後処理としての公平性調整が可能である。

実験結果

リサーチクエスチョン

• RQ1 機械学習における公平性を、二元的選択ではなく、個人の公平性と集団の公平性の間の連続的トレードオフとして形式化することは可能か？
• RQ2 公平性パラメータ $\theta$ を変化させた場合、さまざまな応用分野における意思決定ユーティリティと公平性指標にどのような影響を与えるか？
• RQ3 複数の属性に基づく重複するバイアスにさらされる個人の交差差別は、どのように効果的にモデル化され、是正されるか？
• RQ4 最適輸送とバリセンター計算は、統一的で連続的な公平性フレームワークを実現するために果たす役割は何か？
• RQ5 連続的公平性を用いる場合と、従来の離散的公平性定義を用いる場合とで、政策的インパクトはどのように異なるか？

主な発見

• CFA$\theta$ フレームワークにより、個人の公平性と集団の公平性の間を滑らかに補間でき、意思決定者が文脈的価値を反映した公平性レベルを選択可能となる。
• 最適輸送とバリセンター計算を用いることで、多様なシナリオにおいて公平性制約を満たしつつも高い意思決定ユーティリティを維持する。
• 交差差別を効果的にモデル化・是正でき、単一属性の公平性手法に比べてより洗練された解決策を提供する。
• 大学進学選抜の文脈では、保護群間の予測精度を保持しつつ、差別の影響を低減する。
• 信用および保険分野の応用においては、公平性の好みの変化に強く、複数の文化的・人口統計的次元にわたって公平性を維持する。
• 公平性とユーティリティのトレードオフを明示的に形式化することで、実世界の展開において透明性があり文脈に配慮した政策意思決定が可能となる。