[论文解读] A Material Lens on Coloniality in NLP

William A. Held, Camille Harris+2 more|arXiv (Cornell University)|Nov 14, 2023

Ethics and Social Impacts of AI被引用 4

一句话总结

本文运用行动者网络理论（ANT）揭示殖民权力结构如何通过数据、算法和软件在NLP中被物质化嵌入，揭示了NLP研究各阶段地理与语言不平等的加剧。研究证明，殖民性并非偶然，而是系统性存在，被技术实体所放大，呼吁有意识地拆解NLP数据与模型中的殖民根基，以实现公平。

ABSTRACT

Coloniality, the continuation of colonial harms beyond "official" colonization, has pervasive effects across society and scientific fields. Natural Language Processing (NLP) is no exception to this broad phenomenon. In this work, we argue that coloniality is implicitly embedded in and amplified by NLP data, algorithms, and software. We formalize this analysis using Actor-Network Theory (ANT): an approach to understanding social phenomena through the network of relationships between human stakeholders and technology. We use our Actor-Network to guide a quantitative survey of the geography of different phases of NLP research, providing evidence that inequality along colonial boundaries increases as NLP builds on itself. Based on this, we argue that combating coloniality in NLP requires not only changing current values but also active work to remove the accumulation of colonial ideals in our foundational data and algorithms.

研究动机与目标

• 调查殖民权力动态如何被嵌入NLP的物质基础设施中，包括数据、标注、模型与软件。
• 分析NLP中的技术实体如何在研究各阶段强化并放大现有的殖民等级制度。
• 量化1950至2022年间NLP研究产出的地理与语言差异，揭示沿殖民路线的不平等加剧。
• 论证应对NLP中的殖民性，不仅需要价值观转变，更需主动解构基础数据与算法中嵌入的殖民理想。
• 使用ANT作为正式框架，绘制并解释塑造NLP开发与部署的社会技术网络。

提出的方法

• 作者构建了一个全面的NLP开发与部署的行动者网络，整合了既有文献中关于数据生产、标注、建模与部署的既定流程。
• 应用行动者网络理论（ANT），将人类行动者与技术实体均视为共同构成NLP中权力动态的能动主体。
• 对截至2022年9月的10,000余篇计算语言学（CL）出版物进行定量调查，采用REMIND区域分类法映射作者隶属机构与语言研究来源。
• 分析追踪了代表性与研究重点随时间的变化，揭示了西欧与殖民定居者国家机构的持续过度代表。
• 通过定性案例研究揭示地理与语言指标的局限性，表明殖民性运作超越表面指标。
• 利用该框架解释技术系统如何在社会与技术条件演变过程中，仍稳定殖民权力结构。

实验结果

研究问题

• RQ1 殖民性如何在NLP系统的数据、算法与软件中被物质化嵌入？
• RQ2 NLP中的技术实体在不同研究阶段以何种方式强化或再现殖民权力结构？
• RQ3 NLP研究的地理与语言分布在多大程度上反映了殖民时代的权力失衡？
• RQ4 地缘政治利益的转变如何影响NLP中语言选择，而独立于研究者代表性？
• RQ5 基础数据与模型在多大程度上持续维系殖民理想，以及如何主动对其进行解构？

主要发现

• 1950至2022年间，超过60%的NLP研究由西欧与英国殖民定居国家的机构发表，表明长期存在的欧洲中心主义主导。
• 超过60%的NLP研究聚焦于西欧语言，反映出根植于殖民知识等级制度的长期语言偏见。
• 对俄语与阿拉伯语研究的激增，源于地缘政治利益而非本地研究者代表性，表明利益汇聚而非公平。
• 行动者网络分析揭示，NLP中的技术实体——尤其是数据与模型——即使在社会价值观演变过程中，仍作为殖民权力的稳定器。
• 定量分析表明，随着NLP在自身基础系统上持续发展，殖民不平等随时间累积加剧，表明系统性边缘化。
• 定性案例研究显示，仅靠地理与语言指标会低估殖民性，因结构性权力失衡仍深藏于表面数据之下。