[论文解读] On the Morality of Artificial Intelligence

Alexandra Sasha Luccioni, Yoshua Bengio|arXiv (Cornell University)|Dec 26, 2019

Ethics and Social Impacts of AI参考文献 39被引用 5

一句话总结

本文敦促机器学习（ML）从业者在其研究与部署实践中融入伦理与道德考量，提出自省性问题与可操作指南，以确保人工智能造福社会。文章强调主动承担责任而非被动应对监管，倡导通过跨学科协作与价值敏感设计，使机器学习在应对气候变化与不平等等全球挑战中发挥积极作用。

ABSTRACT

Much of the existing research on the social and ethical impact of Artificial Intelligence has been focused on defining ethical principles and guidelines surrounding Machine Learning (ML) and other Artificial Intelligence (AI) algorithms [IEEE, 2017, Jobin et al., 2019]. While this is extremely useful for helping define the appropriate social norms of AI, we believe that it is equally important to discuss both the potential and risks of ML and to inspire the community to use ML for beneficial objectives. In the present article, which is specifically aimed at ML practitioners, we thus focus more on the latter, carrying out an overview of existing high-level ethical frameworks and guidelines, but above all proposing both conceptual and practical principles and guidelines for ML research and deployment, insisting on concrete actions that can be taken by practitioners to pursue a more ethical and moral practice of ML aimed at using AI for social good.

研究动机与目标

• 通过敦促从业者在技术性能之外，考虑机器学习（ML）日益增长的社会影响，来应对这一影响。
• 弥合抽象伦理原则与机器学习研究人员及工程师可操作实践之间的鸿沟。
• 激励机器学习界优先考虑有益于人类的应用，特别是在应对气候变化与社会不平等等全球挑战方面。
• 推动人工智能开发中的主动伦理决策，而非等待监管或法律干预。
• 鼓励机器学习从业者与政策制定者、心理学、环境科学及社会科学专家开展跨学科合作。

提出的方法

• 为机器学习从业者提出一组自省性伦理反思问题，以评估其工作对社会的影响。
• 借鉴现有高层次伦理框架（如《联合国人权宣言》、IEEE、Jobin 等）以奠定实际建议的基础。
• 建议与政策、心理学及环境科学等领域的专家合作，以确保机器学习工具既有效又合乎伦理。
• 突出机器学习在减缓气候变化方面的具体应用，例如碳定价模型、生态系统监测以及利用卫星图像进行灾害响应。
• 建议使用生成模型（如 GANs）通过可视化个人相关地点的未来影响，减少人们对气候变化的心理距离。
• 强调以用户为中心的设计与信任建设在推动个人行为改变的机器学习工具部署中的重要性。

实验结果

研究问题

• RQ1 机器学习从业者如何在部署前评估其研究与应用的潜在社会影响？
• RQ2 当开发具有高社会影响的技术（如监控系统或自主武器）时，机器学习研究人员应承担何种伦理责任？
• RQ3 机器学习在应对气候变化与生物多样性丧失等全球挑战方面，可如何被有效利用？
• RQ4 如何通过机器学习工具应对心理与行为偏见，以促进个人与集体在应对气候变化方面的行动？
• RQ5 跨学科合作在确保人工智能系统既有效又与人类价值观伦理一致方面，发挥何种作用？

主要发现

• 机器学习从业者必须主动反思其工作的道德影响，包括其技术使谁受益或受害，通过自省性伦理问题实现。
• 训练数据中的偏见已导致现实世界中的伤害，例如面部识别系统在性别与种族少数群体上的表现不佳，凸显了公平性意识开发的必要性。
• 机器学习可通过建模碳定价、分析卫星图像以监测森林砍伐与灾害响应，以及改善生态系统监测，支持气候行动。
• 生成对抗网络（GANs）可用于可视化个人关注地点的未来气候影响，减少心理距离，提升行动动机。
• 为社会福祉有效部署机器学习，需与心理学、传播学及政策专家合作，以确保工具可及且具影响力。
• 当前人工智能技术发展的速度已超过集体智慧与伦理规范的形成速度，形成一场‘智慧竞赛’，亟需从业者立即投入伦理参与。