[论文解读] Solidarity should be a core ethical principle of Artificial Intelligence

Miguel Luengo-Oroz|arXiv (Cornell University)|Oct 22, 2019

Ethics and Social Impacts of AI参考文献 6被引用 29

一句话总结

本文提出将团结作为人工智能的核心伦理原则，倡导公平分配人工智能带来的繁荣，并主动减轻长期社会危害。它提出两大支柱：(1) 通过金融与数字机制共享利益（例如数据版税、开源模型）；(2) 在部署前进行评估，防止人类被边缘化，确保人工智能服务于全人类，而不仅局限于少数特权群体。

ABSTRACT

Solidarity is one of the fundamental values at the heart of the construction of peaceful societies and present in more than one third of world's constitutions. Still, solidarity is almost never included as a principle in ethical guidelines for the development of AI. Solidarity as an AI principle (1) shares the prosperity created by AI, implementing mechanisms to redistribute the augmentation of productivity for all; and shares the burdens, making sure that AI does not increase inequality and no human is left behind. Solidarity as an AI principle (2) assesses the long term implications before developing and deploying AI systems so no groups of humans become irrelevant because of AI systems. Considering solidarity as a core principle for AI development will provide not just an human-centric but a more humanity-centric approach to AI.

研究动机与目标

• 解决现有人工智能伦理准则中缺乏团结精神的问题，这些准则主要强调可信性、公平性和问责制。
• 应对人工智能可能使大量人类在经济与社会层面变得无关紧要的风险，正如尤瓦尔·诺亚·哈拉里所预测的那样。
• 提供一个框架，将人工智能带来的生产率提升在全社会范围内重新分配，防止加剧不平等。
• 引入机制，以共享人工智能发展的利益与负担，包括对数据贡献者的经济补偿。
• 倡导建立全球治理结构，以管理系统性风险，例如人工智能驱动的虚假信息或环境成本。

提出的方法

• 将团结作为双轨并行的伦理原则：(1) 公平分享人工智能带来的繁荣；(2) 长期风险评估，以防止人类被边缘化。
• 建议采用金融机制，如数据版税或机器人税，将人工智能系统产生的价值重新分配给个人与社群。
• 推动人工智能模型开源及数字公共产品（例如气候与健康模型）的共享，以确保普遍获取与共同受益。
• 呼吁建立国际监管工具，包括类似全球卫生紧急状态的全球人工智能紧急声明，以应对大规模人工智能危机。
• 倡导可持续性政策，要求人工智能模型的效益必须超过其碳足迹。
• 提议对高风险人工智能应用（例如面部识别、致命性自主武器）实施预先禁止或严格监管，依据其对社会的影响。

实验结果

研究问题

• RQ1 如何构建人工智能的发展模式，以确保人工智能带来的生产率提升能在全社会范围内公平共享？
• RQ2 可实施哪些机制，以对为训练人工智能模型提供数据的个人进行经济补偿？
• RQ3 如何在事前评估人工智能系统，以防止整个群体的人类在长期内被边缘化或变得无关紧要？
• RQ4 需要哪些全球治理框架来管理人工智能带来的系统性风险，例如大规模虚假信息或环境损害？
• RQ5 团结作为一项伦理原则，如何能将人工智能设计从以人类为中心转变为以全人类为中心？

主要发现

• 团结是超过30%的世界宪法以及《欧洲联盟基本权利宪章》中的基础价值，但在93%的人工智能伦理准则中缺失或定义模糊。
• 在所审查的84项人工智能准则中，仅有6项明确提及团结，且其定义不一致且发展不充分。
• 数据版税制度可对训练人工智能模型所用的个人行为或创作数据（如医生或作家）提供经济补偿。
• 对自动化或机器人征税可作为财政机制，将人工智能产生的财富重新分配，并支持被取代的劳动者。
• 全球人工智能紧急声明——参照全球卫生紧急状态的模式——可促成应对大规模人工智能危机的国际协调响应。
• 当前的人工智能发展往往忽视训练模型的碳足迹，表明需要实施可持续性政策，要求进行净效益评估。