[論文レビュー] How Do Fairness Definitions Fare? Examining Public Attitudes Towards Algorithmic Definitions of Fairness

Nripsuta Ani Saxena, Karen Huang+4 more|arXiv (Cornell University)|Nov 8, 2018

Ethics and Social Impacts of AI参考文献 23被引用数 49

ひとこと要約

この論文は、一般の人々のローン決定における3つのアルゴリズム公正性定義の認識を調査し、 Race情報が追加された場合の認識の変化をオンライン実験2つで検証し、 calibrated fairness がしばしば支持され、アファーマティブ・アクションが支持されることが多い、という結論を示す。

ABSTRACT

What is the best way to define algorithmic fairness? While many definitions of fairness have been proposed in the computer science literature, there is no clear agreement over a particular definition. In this work, we investigate ordinary people's perceptions of three of these fairness definitions. Across two online experiments, we test which definitions people perceive to be the fairest in the context of loan decisions, and whether fairness perceptions change with the addition of sensitive information (i.e., race of the loan applicants). Overall, one definition (calibrated fairness) tends to be more preferred than the others, and the results also provide support for the principle of affirmative action.

研究の動機と目的

• 貸出コンテキストにおいて、一般の認識と一致するCS公正性定義を理解する。
• 感受性属性（人種）を追加することが公正性判断にどのように影響するかを評価する。
• さまざまな公正性定義に対する公的な支持を比較する。
• 実世界の意思決定システムに公正性の概念を導入する際の含意を探る。

提案手法

• 参加者にローン決定のシナリオを提示するオンライン実験を2つ実施する。
• 各シナリオで適用される公正性定義を操作する。
• 公的機密情報（申請者の人種）の含有を変化させ、公正性判断への影響を検証する。
• 定義間の知覚される公正性と好みを測定する。
• 人種情報への露出や他の要因によって回答が異なるかを分析する。

実験結果

リサーチクエスチョン

• RQ1 ローン決定コンテキストで、どのアルゴリズム公正性定義が一般の人々にとって最も公正だと見なされるか？
• RQ2 感受性情報（人種）の含有は、定義間の公正性判断に影響を与えるか？
• RQ3 人種がある場合とない場合で、calibrated fairness、統計的パリティ、その他の定義に対する参加者の好みは異なるか？
• RQ4 公衆の認識としてアファーマティブ・アクションを公正性のアプローチとして支持する証拠があるか？

主な発見

• calibrated fairnessは、検討された他の定義よりも好まれがちである。
• 研究対象の文脈で、アファーマティブ・アクションの原理を支持する公衆の態度を示している。
• 感受性情報（人種）の追加は公正性判断に影響を及ぼし、定義間の好みに影響を与える。
• 結果は、貸出シナリオにおける一般人の直感と整合する公正性概念を照明する。