[论文解读] Socially Responsible AI Algorithms: Issues, Purposes, and Challenges

Lu Cheng, Kush R. Varshney+1 more|arXiv (Cornell University)|Jan 1, 2021

Ethics and Social Impacts of AI参考文献 211被引用 35

一句话总结

本综述定义了人工智能的社会责任，提出了人工智能责任的四层金字塔，并展示了一个系统框架用于社会责任人工智能算法（SRAs），以解决伦理、透明度、安全性和社会影响。

ABSTRACT

In the current era, people and society have grown increasingly reliant on artificial intelligence (AI) technologies. AI has the potential to drive us towards a future in which all of humanity flourishes. It also comes with substantial risks for oppression and calamity. Discussions about whether we should (re)trust AI have repeatedly emerged in recent years and in many quarters, including industry, academia, healthcare, services, and so on. Technologists and AI researchers have a responsibility to develop trustworthy AI systems. They have responded with great effort to design more responsible AI algorithms. However, existing technical solutions are narrow in scope and have been primarily directed towards algorithms for scoring or classification tasks, with an emphasis on fairness and unwanted bias. To build long-lasting trust between AI and human beings, we argue that the key is to think beyond algorithmic fairness and connect major aspects of AI that potentially cause AI's indifferent behavior. In this survey, we provide a systematic framework of Socially Responsible AI Algorithms that aims to examine the subjects of AI indifference and the need for socially responsible AI algorithms, define the objectives, and introduce the means by which we may achieve these objectives. We further discuss how to leverage this framework to improve societal well-being through protection, information, and prevention/mitigation.

研究动机与目标

• 在原则、手段与目标层面定义人工智能的社会责任。
• 提出人工智能责任的金字塔：功能性、法律性、伦理性和慈善性。
• 建立一个系统性的社会责任人工智能算法（SRAs）及其角色框架。
• 识别对社会漠视的AI的原因与对象，并概述实现SRAs的机制。

提出的方法

• 用三个维度（原则、手段、目标）正式定义人工智能的社会责任。
• 将 Carroll 的 CSR 金字塔应用于 AI，形成四种责任（功能、法律、伦理、慈善）。
• 提出 SRAs 框架，详细说明其要素、角色以及来自用户的反馈环路。
• 在统一的 SRAs 视角下，调查并整合公平性、透明度、问责性、安全性等议题。
• 分析漠视的原因（形式化、测量误差、偏见、数据滥用、相关性与因果性）。
• 概述通过可解释性、对抗性机器学习、因果学习和不确定性量化来实现 SRAs 的途径。

实验结果

研究问题

• RQ1 AI 的社会责任由何构成，以及如何形式化？
• RQ2 四部分金字塔（功能、法律、伦理、慈善）如何引导AI发展？
• RQ3 SRAs 的系统框架是什么，其组成部分如何互动以保护、告知并缓解AI的负面影响？
• RQ4 造成社会漠视的AI的根本原因是什么，SRAs 如何解决它们？

主要发现

• 我们在原则、手段和目标方面提供了人工智能社会责任的正式定义。
• 我们提出了四级人工智能责任金字塔：功能、法律、伦理和慈善。
• 我们提出了一个全面的 SRAs 框架，将要素、角色和用户反馈联系到社会结果。
• 我们识别了AI社会漠视的关键原因（形式化、测量误差、偏见、数据滥用、相关性与因果性）并讨论应对策略。
• 我们讨论 SRAs 的目标（公平性、透明度、安全性）和手段（可解释性、对抗性ML、因果学习、不确定性量化）。
• 该综述强调未解决的问题与挑战，包括对新的AI伦理原则和政策的需求。