[论文解读] Dimensions of Diversity in Human Perceptions of Algorithmic Fairness

Nina Grgić-Hlača, Gabriel Lima+2 more|arXiv (Cornell University)|May 2, 2020

Ethics and Social Impacts of AI被引用 6

一句话总结

本研究探讨了社会人口统计因素和个人经历如何影响人们对保释决策中算法公平性的感知。通过对329名美国参与者的调查发现，政治意识形态和直接经历（尤其是参加过保释听证会）显著影响公平性判断，尤其是在涉及使用青少年犯罪记录时，凸显了在算法监管委员会中实现多样化代表的必要性。

ABSTRACT

A growing number of oversight boards and regulatory bodies seek to monitor and govern algorithms that make decisions about people's lives. Prior work has explored how people believe algorithmic decisions should be made, but there is little understanding of how individual factors like sociodemographics or direct experience with a decision-making scenario may affect their ethical views. We take a step toward filling this gap by exploring how people's perceptions of one aspect of procedural algorithmic fairness (the fairness of using particular features in an algorithmic decision) relate to their (i) demographics (age, education, gender, race, political views) and (ii) personal experiences with the algorithmic decision-making scenario. We find that political views and personal experience with the algorithmic decision context significantly influence perceptions about the fairness of using different features for bail decision-making. Drawing on our results, we discuss the implications for stakeholder engagement and algorithmic oversight including the need to consider multiple dimensions of diversity in composing oversight and regulatory bodies.

研究动机与目标

• 调查社会人口统计因素和个人经历如何影响人类对算法决策公平性的感知。
• 考察政治观点和亲身经历对使用特定特征（如犯罪记录）进行保释决策判断的影响。
• 通过识别显著影响公平性感知的多样性维度，为构建多元化的监督与监管机构提供建议。
• 超越人口统计多样性，探索特定情境下的个人经历在塑造对算法公平性道德判断中的作用。

提出的方法

• 在美国开展一项涉及329名参与者的面向人类受试者的调查，评估人们对保释决策中算法特征公平性的感知。
• 收集了人口统计信息（年龄、教育程度、性别、种族、政治观点）和个人经历（如参加过保释听证会）的数据。
• 使用结构化问卷，让参与者在李克特量表上对12项保释决策的算法特征的公平性进行评分。
• 应用统计分析，检验人口统计变量、个人经历与公平性判断之间的关系。
• 控制混杂变量，并使用回归模型检验显著性。
• 探索潜在机制，如自我中心偏见和通过个人经历获取的信息。

实验结果

研究问题

• RQ1 政治观点在多大程度上影响人们对使用特定特征进行算法保释决策公平性的感知？
• RQ2 个人经历（如参加过保释听证会）在多大程度上影响对算法特征公平性的判断？
• RQ3 是否存在特定的人口统计因素（如种族、教育程度、性别）能显著预测公平性感知的差异？
• RQ4 个人经历与政治意识形态如何相互作用以塑造公平性判断？
• RQ5 情境性知识（如了解对青少年记录的法律保护）在公平性感知中扮演什么角色？

主要发现

• 无论使用何种具体特征，自认为左倾的个体始终比右倾个体对算法保释决策的公平性评价更低。
• 曾参加过保释听证会的参与者显著更不可能认为使用青少年犯罪记录是公平的，表明直接经历具有强烈影响。
• 即使在控制政治观点后，参加过保释听证会的经历与使用青少年犯罪记录的公平性感知仍呈负相关。
• 政治意识形态比大多数人口统计因素更能预测公平性判断，表明其是监督机构中关键的多样性维度。
• 诸如参加保释听证会等个人经历可能促成更知情或情境特定的公平性判断，尽管其也可能因情境而引入偏见。
• 本研究强调，公众对某些数据（如青少年记录）的法律保护可能知之甚少，而个人接触可显著改变其公平性感知。