[论文解读] Artificial Intelligence Ethics: An Inclusive Global Discourse?

Cathy Roche, David Lewis+1 more|arXiv (Cornell University)|Aug 23, 2021

Ethics and Social Impacts of AI参考文献 11被引用 7

一句话总结

本文研究全球人工智能伦理话语是否包容了全球南方和女性的声音，通过分析人工智能伦理文件揭示了显著的代表性不足。研究发现，全球南方国家和女性的提及极少，表明伦理框架可能存在排他性，若缺乏多元声音参与，可能加剧边缘化风险。

ABSTRACT

It is widely accepted that technology is ubiquitous across the planet and has the potential to solve many of the problems existing in the Global South. Moreover, the rapid advancement of artificial intelligence (AI) brings with it the potential to address many of the challenges outlined in the Sustainable Development Goals (SDGs) in ways which were never before possible. However, there are many questions about how such advanced technologies should be managed and governed, and whether or not the emerging ethical frameworks and standards for AI are dominated by the Global North. This research examines the growing body of documentation on AI ethics to examine whether or not there is equality of participation in the ongoing global discourse. Specifically, it seeks to discover if both countries in the Global South and women are underrepresented in this discourse. Findings indicate a dearth of references to both of these themes in the AI ethics documents, suggesting that the associated ethical implications and risks are being neglected. Without adequate input from both countries in the Global South and from women, such ethical frameworks and standards may be discriminatory with the potential to reinforce marginalisation.

研究动机与目标

• 评估人工智能伦理话语是否充分纳入了全球南方的视角。
• 考察女性在全球人工智能伦理文件中的代表性程度。
• 评估主导伦理框架是否因缺乏多元输入而存在排他性和歧视性风险。
• 强调在全球人工智能治理中边缘化来自代表性不足地区和性别的声音所面临的伦理风险。

提出的方法

• 对国际组织、政府及学术机构发布的广泛人工智能伦理文件 corpus 进行系统性分析。
• 通过主题编码识别文件中对全球南方国家及与性别相关概念的提及。
• 对全球南方国家和女性在人工智能伦理文本中的提及频率与语境进行量化评估。
• 通过比较性审查伦理框架，识别代表性或遗漏的模式。
• 运用定性内容分析，阐释代表性不足在伦理话语中的影响。

实验结果

研究问题

• RQ1 全球人工智能伦理文件中对全球南方国家的提及程度如何？
• RQ2 女性在人工智能伦理框架与标准中被提及的频率及语境是什么？
• RQ3 全球南方视角与女性在塑造人工智能伦理原则过程中的代表性不足会产生何种影响？
• RQ4 由于缺乏多元输入，当前的人工智能伦理框架是否面临加剧系统性边缘化的风险？

主要发现

• 分析显示，人工智能伦理文件中对全球南方国家的提及显著匮乏。
• 女性在人工智能伦理话语中代表性不足，其在伦理框架与标准中被提及的次数极少。
• 伦理框架对全球南方地区特有的风险与价值观关注有限。
• 缺乏包容性表明，人工智能伦理标准可能无意中加剧现有的权力失衡与边缘化。
• 若缺乏多元输入，伦理准则可能带有文化偏见，难以有效应对全球性挑战。
• 研究结果强调了在人工智能伦理发展过程中亟需建立更具包容性的治理模式。