[论文解读] Combating Anti-Blackness in the AI Community

Devin Guillory|arXiv (Cornell University)|Jun 18, 2020

Criminal Justice and Corrections Analysis参考文献 12被引用 6

一句话总结

本文提出一个框架，通过分析物理资源、社会资源和评估指标三方面的偏见，识别并应对人工智能社区中的系统性反非裔美国人种族主义，为教师、学生和机构提供可操作的步骤，以减少伤害并促进学术界与人工智能研究中的公平性。

ABSTRACT

In response to a national and international awakening on the issues of anti-Blackness and systemic discrimination, we have penned this piece to serve as a resource for allies in the AI community who are wondering how they can more effectively engage with dismantling racist systems. This work aims to help elucidate areas where the AI community actively and passively contributes to anti-Blackness and offers actionable items on ways to reduce harm.

研究动机与目标

• 揭示系统性反非裔美国人种族主义如何通过制度结构和实践渗透至人工智能社区。
• 突出物理资源、社交网络和评估指标方面的不平等如何在人工智能学术界中加剧种族不公。
• 为教师、学生和机构提供具体且可操作的建议，以减少反非裔美国人偏见并促进包容性。
• 强调必须超越技术公平性，从资金、参与度和研究重点等方面紧急应对人工智能中的反非裔美国人现象。
• 将反非裔美国人现象视为结构性问题，需要制度修复和持续承诺，而非仅依赖个人层面的盟友关系。

提出的方法

• 将系统性反非裔美国人偏见划分为三个相互关联的领域：物理资源（如财富、计算资源获取）、社会资源（如推荐网络、导师制）和评估指标（如标准化考试、晋升标准）。
• 利用关于种族差异在社交网络中的实证数据（例如，75%的白人拥有完全由白人组成的社交网络）来说明结构性隔离。
• 分析有偏见的评估体系（如GRE、SAT和编程面试）如何在声称客观的前提下持续加剧种族不公。
• 提出一个模型，将本科研究机会划分为无薪（U）和有薪（P）两类，表明仅提供无薪机会的体系因社会经济障碍而对非裔学生造成不利影响。
• 建议主动开展导师制、促进包容性的社交融合（如学习小组、社交活动），并确保研究经费的公平获取，以对抗排他性规范。
• 主张拒绝关于反非裔美国人现象是否存在性的争论，认为此类讨论无益且有悖于结构性变革。

实验结果

研究问题

• RQ1 物理、社会和评估性资源如何共同在人工智能学术界中再生产系统性反非裔美国人偏见？
• RQ2 现有的人工智能研究与学术实践（如招生、资助和导师制）在哪些方面持续加剧种族不公？
• RQ3 无薪研究机会如何强化人工智能培养路径中的社会经济与种族差异？
• RQ4 哪些制度机制可以减轻有偏见的社交网络和评估指标对非裔学生与教师的影响？
• RQ5 人工智能社区如何超越象征性盟友关系，实施结构性改革以瓦解反非裔美国人体系？

主要发现

• 社交网络中的种族差异（如75%的白人拥有完全由白人组成的社交网络）显著限制了非裔个体获取机会的可能性。
• 评估指标如GRE和SAT已被证明存在种族偏见，削弱了其在学术和职业选拔中所谓客观性的主张。
• 无薪本科研究岗位（U） disproportionately 有利于高社会经济背景的学生，而有薪岗位（P）则更具公平性，凸显了研究机会中的结构性不公。
• 缺乏包容性的社交融合（如非正式聚会和协作网络）会导致非裔研究生被边缘化，即使其技术能力相当。
• 积极指导代表性不足的本科生并优先为研究提供公平资助的教师，能显著提升未来人工智能人才管道中的多样性。
• 参与关于反非裔美国人现象是否存在性的争论是反效果的；重点应转向可操作的解决方案和制度修复。