[論文レビュー] Dimensions of Diversity in Human Perceptions of Algorithmic Fairness

Nina Grgić-Hlača, Gabriel Lima+2 more|arXiv (Cornell University)|May 2, 2020

Ethics and Social Impacts of AI被引用数 6

ひとこと要約

本研究は、社会的・文化的要因および個人的経験が、保釈判断におけるアルゴリズムの公平性に関する人間の認識にどのように影響するかを調査する。329名の参加者を対象としたアンケート調査の結果、政治的アイデオロギーと直接経験（特に保釈聴聞会への参加）が、特に少年の犯罪歴の使用に関する公平性判断に顕著に影響することが判明し、アルゴリズム監視委員会における多様な代表性の必要性が浮き彫りになった。

ABSTRACT

A growing number of oversight boards and regulatory bodies seek to monitor and govern algorithms that make decisions about people's lives. Prior work has explored how people believe algorithmic decisions should be made, but there is little understanding of how individual factors like sociodemographics or direct experience with a decision-making scenario may affect their ethical views. We take a step toward filling this gap by exploring how people's perceptions of one aspect of procedural algorithmic fairness (the fairness of using particular features in an algorithmic decision) relate to their (i) demographics (age, education, gender, race, political views) and (ii) personal experiences with the algorithmic decision-making scenario. We find that political views and personal experience with the algorithmic decision context significantly influence perceptions about the fairness of using different features for bail decision-making. Drawing on our results, we discuss the implications for stakeholder engagement and algorithmic oversight including the need to consider multiple dimensions of diversity in composing oversight and regulatory bodies.

研究の動機と目的

• 社会的・文化的要因および個人的経験が、アルゴリズム意思決定における人間の公平性認識にどのように影響するかを調査すること。
• 政治的見解および体験に基づく経験が、特定の特徴（例：犯罪歴）の保釈判断における使用に関する判断にどのように影響するかを検討すること。
• 公平性認識に顕著な影響を及ぼす多様性の次元を同定することで、多様な監査および規制機関の構成を支援すること。
• 単なる人口統計的多様性を越えて、文脈特有の個人的経験がアルゴリズムの公平性に関する道徳的判断をどのように形作るかを検討すること。

提案手法

• 米国からの329名の参加者を対象に、保釈判断におけるアルゴリズム的特徴の公平性認識を評価する人間被験者調査を実施した。
• 年齢、教育水準、性別、人種、政治的見解などの人口統計的要因および、保釈聴聞会への参加などの個人的経験に関するデータを収集した。
• リークルート尺度を用いた構造化されたアンケートを用いて、保釈判断のための12のアルゴリズム的特徴の公平性を評価した。
• 人口統計的変数、個人的経験、および公平性判断との関係を統計的分析により検証した。
• 交絡要因を制御し、回帰モデルを用いて有意性をテストした。
• 自己中心的バイアスや個人的経験からの情報取得といった潜在的メカニズムを検討した。

実験結果

リサーチクエスチョン

• RQ1 政治的見解は、特定の特徴を用いたアルゴリズム的保釈判断における公平性認識にどのように影響するか？
• RQ2 保釈聴聞会への参加といった個人的経験は、アルゴリズム的特徴に関する公平性判断にどの程度影響するか？
• RQ3 人種、教育水準、性別などの特定の人口統計的要因が、公平性認識の差を有意に予測するか？
• RQ4 個人的経験と政治的アイデオロギーが、公平性判断にどのように相互に作用するか？
• RQ5 文脈的知識（例：少年記録の法的保護の認識）は、公平性認識にどのような役割を果たすか？

主な発見

• 左派的立場を取る人々は、使用される特定の特徴に関わらず、右派的立場を取る人々よりもアルゴリズム的保釈判断の公平性を常に低く評価した。
• 保釈聴聞会に参加した参加者は、少年の犯罪歴の使用を公平とは考えにくいと強く感じており、直接経験の影響が顕著に表れた。
• 政治的アイデオロギーを制御しても、保釈聴聞会への参加経験は、少年の犯罪歴の使用に関する公平性認識と負の相関関係にあった。
• 政治的アイデオロギーは、大多数の人口統計的要因よりも公平性判断のより強い予測要因であったため、監査機関における多様性の重要な次元であることが示された。
• 保釈聴聞会への参加といった個人的経験は、より情報に基づいた、または文脈特有の公平性判断を生む可能性があるが、状況によってはバイアスを引き起こす可能性もある。
• 本研究は、特定のデータ（例：少年記録）に対する法的保護が一般にはあまり知られていない可能性があり、個人的暴露が公平性認識に顕著に影響を与える可能性があることを浮き彫りにした。