[论文解读] Artificial Intelligence in the Global South (AI4D): Potential and Risks

P. J. Wall, Deepak Saxena+1 more|arXiv (Cornell University)|Aug 23, 2021

AI in Service Interactions参考文献 16被引用 9

一句话总结

本文探讨了人工智能在南方国家的双重潜力与风险，强调了在多元社会与政治背景下部署由北方国家设计的人工智能系统所引发的伦理挑战。文章主张应推动情境敏感、基于本地知识的人工智能开发，以最大化可持续发展目标的益处，同时减轻国家监控和文化错配等风险。

ABSTRACT

Artificial intelligence is becoming more widely available in all parts of the world. This has created many previously unforeseen possibilities for addressing the challenges outlined in the Sustainable Development Goals in the Global South. However, the use of AI in such contexts brings with it a unique set of risks and challenges. Among these are the potential for Governments to use such technologies to suppress their own people, and the ethical questions arising from implementing AI primarily designed and developed in the Global North into vastly different social, cultural, and political environments in the Global South. This paper examines the key issues and questions arising in the emerging sub-field of AI for global development (AI4D) and the potential and risks associated with using such technologies in the Global South. We propose that although there are many risks associated with the use of AI, the potential benefits are enough to warrant detailed research and investigation of the most appropriate and effective ways to design, develop, implement, and use such technologies in the Global South. We conclude by calling for the wider ICT4D community to continue to conduct detailed research and investigation of all aspects of AI4D.

研究动机与目标

• 分析人工智能在南方国家推动可持续发展目标方面所呈现的独特机遇。
• 识别并审视在南方国家背景下部署由北方国家开发的人工智能系统所涉及的伦理、政治与文化风险。
• 倡导尊重本地价值观、治理结构与权力关系的本地化人工智能开发。
• 呼吁ICT4D（信息通信技术促进发展）社群持续开展跨学科研究，推动南方国家负责任的人工智能实施。
• 强调技术强加的危险，包括国家监控以及本地知识体系的边缘化。

提出的方法

• 对低收入与中等收入国家人工智能部署的现有文献与案例研究进行批判性回顾。
• 通过去殖民化与发展伦理的视角，分析人工智能实施中的治理、伦理与社会政治维度。
• 结合计算机科学、社会学与发展研究的跨学科视角，评估人工智能促进发展（AI4D）的挑战。
• 运用概念框架评估全球北方与南方在人工智能设计与部署中所存在的权力失衡。
• 为ICT4D社群提出一项聚焦参与式、公平且负责的人工智能开发的研究议程。
• 强调需要通过纳入本地利益相关者的参与，推动包容性设计流程，以确保文化与情境的相关性。

实验结果

研究问题

• RQ1 如何有效且伦理地部署人工智能以支持南方国家的可持续发展目标？
• RQ2 在南方国家背景下实施由全球北方设计的人工智能系统，其主要风险是什么？
• RQ3 人工智能开发中的权力失衡如何影响南方国家的治理、公平与人权？
• RQ4 在多样化的南方国家环境中，确保人工智能系统尊重本地价值观与社会结构，需要哪些伦理框架？
• RQ5 ICT4D社群如何能为南方国家负责任、情境敏感的人工智能开发做出贡献？

主要发现

• 在南方国家部署人工智能存在重大风险，包括国家监控与镇压，尤其当技术在缺乏本地监督的情况下被引进时。
• 由全球北方开发的人工智能系统往往未能考虑本地的文化、政治与制度背景，导致无效或有害的结果。
• 迫切需要由本地主导的人工智能开发，以确保其在应对发展挑战时的相关性、公平性与可持续性。
• 人工智能在实现可持续发展目标方面的潜在益处巨大，但其成效取决于伦理、参与式与情境敏感的实施。
• 当前的人工智能促进发展（AI4D）举措往往缺乏对权力动态、数据主权与长期治理的足够关注，可能加剧边缘化风险。
• 本文结论指出，ICT4D社群必须优先开展关于南方国家负责任的人工智能整合的研究，以避免技术殖民主义，确保包容性发展。