[论文解读] The Limits of Global Inclusion in AI Development

Alan Chan, Chinasa T. Okolo+2 more|arXiv (Cornell University)|Feb 2, 2021

Ethics and Social Impacts of AI参考文献 34被引用 10

一句话总结

本文认为，全球参与AI开发不足以解决系统性不平等问题，因为当前的做法（如外包数据标注和设立海外AI实验室）反而强化了权力失衡。相反，本文提出应推行以AI为重点的进口替代工业化（ISI）政策，使全球南方国家能够建立本土AI能力，确保公平获取利润并实现AI系统在本地语境下的相关性。

ABSTRACT

Those best-positioned to profit from the proliferation of artificial intelligence (AI) systems are those with the most economic power. Extant global inequality has motivated Western institutions to involve more diverse groups in the development and application of AI systems, including hiring foreign labour and establishing extra-national data centers and laboratories. However, given both the propensity of wealth to abet its own accumulation and the lack of contextual knowledge in top-down AI solutions, we argue that more focus should be placed on the redistribution of power, rather than just on including underrepresented groups. Unless more is done to ensure that opportunities to lead AI development are distributed justly, the future may hold only AI systems which are unsuited to their conditions of application, and exacerbate inequality.

研究动机与目标

• 审视当前AI开发中包容性实践的局限性，特别是对全球南方地区的影响。
• 强调自上而下的、由西方主导的AI举措尽管努力纳入多样化贡献者，却仍加剧了全球不平等。
• 主张仅有包容性是不够的，必须实现对AI开发权力和控制权的再分配。
• 提出以AI为重点的进口替代工业化（ISI）政策，作为实现公平AI发展的结构性解决方案。
• 倡导从低生产率角色（如数据标注）向全球南方地区高生产率的本土AI创新转型。

提出的方法

• 分析主要AI会议（NeurIPS 2020、ICML 2020）的论文发表指数，以绘制全球AI研究中的代表性分布。
• 评估ImageNet和OpenImages等广泛使用数据集中的地理与文化偏见，这些数据集对全球南方语境的代表性严重不足。
• 考察数据标注的全球劳动地理分布，特别是依赖来自撒哈拉以南非洲和东南亚的低薪工人通过Amazon Mechanical Turk等平台完成任务。
• 将历史上的进口替代工业化（ISI）政策与本文提出的面向AI的ISI模式进行类比。
• 提出由国家主导投资AI教育、基础设施和本土研发，控制外国参与并实现利润再投资。
• 强调Deep Learning Indaba和Khipu等区域性成功倡议，可作为本土AI发展的范例。

实验结果

研究问题

• RQ1 尽管全球南方参与度提高，当前AI开发中的包容性实践在多大程度上仍再现了全球权力失衡？
• RQ2 有偏见的数据集和外包的数据标注在多大程度上损害了全球南方AI系统的语境相关性和公平性？
• RQ3 是否存在结构性的替代方案，可替代自上而下、由外国主导的AI发展模式，从而实现全球南方地区的公平技术自主？
• RQ4 AI导向的进口替代工业化（ISI）政策在多大程度上可使全球南方国家长期捕获AI带来的经济与技术收益？
• RQ5 本土AI教育与研究网络在多大程度上可推动权力从外国机构向本地社区转移？

主要发现

• 在NeurIPS 2020和ICML 2020中按论文发表指数排名前10的国家中，无一来自拉丁美洲、非洲或东南亚，越南为最高排名，位列第27位。
• 在论文发表指数排名前10的机构中，有8家位于美国，且在前100名中无非洲或拉丁美洲的大学或企业。
• ImageNet和OpenImages数据集具有欧洲中心倾向，在全球南方图像上的表现显著较差，例如将埃塞俄比亚和巴基斯坦的新郎错误分类。
• 机器学习中超过80%的数据准备任务涉及数据收集、清洗和标注，数据标注市场预计到2027年将达到65亿美元规模。
• 来自全球南方的Amazon Mechanical Turk用户不足2%，大多数数据标注工作外包给撒哈拉以南非洲和东南亚的低薪工人。
• 韩国历史上通过国家主导的产业政策、补贴和教育投资实现ISI的成功，为全球南方地区的AI发展提供了可行范例，前提是具备类似条件。