[论文解读] Responsible AI and Its Stakeholders

Gabriel Lima, Meeyoung Cha|arXiv (Cornell University)|Apr 23, 2020

Ethics and Social Impacts of AI参考文献 15被引用 7

一句话总结

本文主张，负责任的人工智能（Responsible AI）必须超越仅追究人类利益相关者的责任，提出应通过可责备性、问责制和责任追究，使自主人工智能系统本身也能被追究责任。文章认为，尽管人工智能缺乏道德能动性，但社会报应主义和法律创新（如电子法律人格）可能使人工智能被赋予责任，从而弥合自主系统在法律和道德上的关键空白。

ABSTRACT

Responsible Artificial Intelligence (AI) proposes a framework that holds all stakeholders involved in the development of AI to be responsible for their systems. It, however, fails to accommodate the possibility of holding AI responsible per se, which could close some legal and moral gaps concerning the deployment of autonomous and self-learning systems. We discuss three notions of responsibility (i.e., blameworthiness, accountability, and liability) for all stakeholders, including AI, and suggest the roles of jurisdiction and the general public in this matter.

研究动机与目标

• 解决由自主、自学习人工智能系统引发的法律与道德空白问题，这些系统往往逃避对人类利益相关者的责任追究。
• 探究人工智能是否可被视为超越开发者、用户和制造商之外的责任主体。
• 考察在人工智能缺乏道德能动性的情况下，将其归因于可责备性、问责制和责任追究的可行性。
• 探讨公众与司法体系在人工智能未满足传统道德责任标准的情况下，仍愿意将其视为责任对象的意愿。
• 提出重新思考负责任人工智能框架，将人工智能本身作为责任的直接主体，而非仅人类行为者的工具。

提出的方法

• 基于van de Poel等人（2012）的理论基础，分析三种回溯性责任概念——可责备性、问责制和责任追究。
• 评估可责备性的五个条件（道德能动性、因果关系、知识、自由、不当行为），并将其应用于人工智能与人类利益相关者。
• 以人工智能在错误行为中的因果作用（如自动驾驶汽车事故）为基础，评估其问责制与责任追究的适用性。
• 通过Uber在一名行人死亡事件中的责任案例，分析现行法律实践及其局限性。
• 探讨赋予人工智能电子法律人格的法律与社会影响，以实现责任追究。
• 结合公众认知数据与哲学推理，论证社会报应主义可能驱动公众在人工智能缺乏能动性的情况下，仍将其视为可责备的对象。

实验结果

研究问题

• RQ1 人工智能即使缺乏道德能动性，是否仍可被有意义地归咎于其行为？
• RQ2 在人工智能具备行动能力并参与因果关系导致结果的前提下，其在多大程度上可被视为可问责？
• RQ3 通过电子法律人格等机制，是否在法律与伦理上可行地将责任追究于人工智能？
• RQ4 公众报应主义在多大程度上影响了人们对人工智能作为责备对象的认知，尽管其缺乏意图性？
• RQ5 将人工智能排除在责任框架之外，对自主系统中法律与伦理问责制会产生何种影响？

主要发现

• 人工智能目前未被承认为道德能动者，因此无法满足传统可责备性条件，如道德能动性与理解能力。
• 尽管缺乏道德能动性，公众报应主义可能促使人们因其在有害结果中的因果作用而将责任归于人工智能。
• 人工智能与错误行为之间的因果联系通常强烈且清晰，满足问责制与责任追究的关键条件。
• 目前Uber、沃尔沃等企业承担人工智能行为的法律责任，但这可能抑制创新，并无法解决系统性责任空白问题。
• 法律框架可改革以赋予人工智能电子法律人格，使其能够持有资产或投保，以赔偿损害。
• 公众即使明知人工智能无法被惩罚，仍愿意追究其责任，表明社会正发生转变，将人工智能视为责任对象。