[論文レビュー] Factors Influencing Perceived Fairness in Algorithmic Decision-Making: Algorithm Outcomes, Development Procedures, and Individual Differences

Ruotong Wang, F. Maxwell Harper+1 more|arXiv (Cornell University)|Jan 27, 2020

Ethics and Social Impacts of AI参考文献 68被引用数 30

ひとこと要約

この CHI 2020 研究はオンラインMTurk実験をランダム化して、好意的な個別アウトカムと偏りのないグループ処理が公正性の認識を高め、アウトカム効果はしばしば偏見効果を上回り、教育と開発手順がこれらの認識を調整することを示す。

ABSTRACT

Algorithmic decision-making systems are increasingly used throughout the public and private sectors to make important decisions or assist humans in making these decisions with real social consequences. While there has been substantial research in recent years to build fair decision-making algorithms, there has been less research seeking to understand the factors that affect people's perceptions of fairness in these systems, which we argue is also important for their broader acceptance. In this research, we conduct an online experiment to better understand perceptions of fairness, focusing on three sets of factors: algorithm outcomes, algorithm development and deployment procedures, and individual differences. We find that people rate the algorithm as more fair when the algorithm predicts in their favor, even surpassing the negative effects of describing algorithms that are very biased against particular demographic groups. We find that this effect is moderated by several variables, including participants' education level, gender, and several aspects of the development procedure. Our findings suggest that systems that evaluate algorithmic fairness through users' feedback must consider the possibility of outcome favorability bias.

研究の動機と目的

• Algorithmic decisionsの公正性に対する個別の好ましいアウトカムの影響を理解する。
• グループベースの偏りのない対 eyes biased outcomes が公正性の認識に与える影響を評価する。
• 透明性と人間の関与を含む開発手順が公正性の認識に与える影響を検討する。
• 教育、コンピュータリテラシー、人口統計といった個人差が公正性の認識を調整するかを調べる。

提案手法

• MTurk上でのランダム化オンライン実験を実施（除外後N ≈ 579）。
• 6つの要因を操作する：（有利/不利なアウトカム）、（偏りのある/偏りのないグループ処理）、透明性レベル、開発/デザインチーム、モデルタイプ（ML対ルール）、意思決定タイプ（アルゴリズムのみ対混合）。
• MTurk Master資格アルゴリズムとアウトカム（合格/不合格）を説明として提示しつつ、アウトカムと手順の詳細を変える。
• 六つの7点リッカート尺度アイテムで公正性を測定（Cronbach’s alpha = 0.91）。
• アウトカム、手順、個人差から公正性を予測する線形回帰モデルを用いてデータを分析する（対照：自己期待）。

実験結果

リサーチクエスチョン

• RQ1 好ましい個別アウトカムと偏りのないグループ処理は、公的アルゴリズムの公正性の認識にどのように影響するか？
• RQ2 開発手順（透明性と人間の関与）は公正性の認識にどのような影響を与えるか？
• RQ3 個人差（教育、コンピュータリテラシー、人口統計）は公正性の認識を調整するか？
• RQ4 アウトカムの有利性の影響は、公正性判断における偏りのない処理の影響より大きいか？
• RQ5 教育と手順の透明性は公正性の認識とどのように相互作用するか？

主な発見

• 公正性は、個人にとって有利なアウトカムおよびグループ全体での偏らない処理によって高まる。
• 個人の有利なアウトカムの影響は、偏りのないグループ処理の影響より大きい。
• 高等教育は、有利なアウトカムによる公正性のブーストを弱め、偏ったグループ処理への感度を増幅する。
• 開発をアウトソーシングすることや透明性を高めることは、グループバイアスが公正性の認識に及ぼす負の影響を増幅する可能性がある。
• 人間の関与を開発により多く取り入れることは、一般に公正性の認識を高め、ヒューマン・イン・ザ・ループの見解を支持する。
• 全体として、アウトカムの有利性は公正性の統計的マーカーを超えて公正性判断を偏らせる可能性がある、すなわちアウトカム有利性バイアス。