[论文解读] The Sanction of Authority: Promoting Public Trust in AI

Bran Knowles, John T. Richards|arXiv (Cornell University)|Jan 22, 2021

Ethics and Social Impacts of AI参考文献 33被引用 13

一句话总结

本文提出了一套基于制度信任和结构化理论的监管生态系统，以应对公众对人工智能的不信任，主张外部可审计的人工智能文档和可执行规则——而非仅技术透明度——对于将可信人工智能嵌入社会至关重要。其主要贡献在于提出了一种理论模型，通过将公众问责和制度制裁置于用户中心的信任机制之上，重新定义了可信人工智能。

ABSTRACT

Trusted AI literature to date has focused on the trust needs of users who knowingly interact with discrete AIs. Conspicuously absent from the literature is a rigorous treatment of public trust in AI. We argue that public distrust of AI originates from the under-development of a regulatory ecosystem that would guarantee the trustworthiness of the AIs that pervade society. Drawing from structuration theory and literature on institutional trust, we offer a model of public trust in AI that differs starkly from models driving Trusted AI efforts. This model provides a theoretical scaffolding for Trusted AI research which underscores the need to develop nothing less than a comprehensive and visibly functioning regulatory ecosystem. We elaborate the pivotal role of externally auditable AI documentation within this model and the work to be done to ensure it is effective, and outline a number of actions that would promote public trust in AI. We discuss how existing efforts to develop AI documentation within organizations -- both to inform potential adopters of AI components and support the deliberations of risk and ethics review boards -- is necessary but insufficient assurance of the trustworthiness of AI. We argue that being accountable to the public in ways that earn their trust, through elaborating rules for AI and developing resources for enforcing these rules, is what will ultimately make AI trustworthy enough to be woven into the fabric of our society.

研究动机与目标

• 解决可信人工智能文献中关于公众信任的空白，该空白主要聚焦于个体用户的互动，而非社会层面的信任。
• 论证公众对人工智能的不信任源于缺乏一个能确保人工智能问责和可靠性的有效监管生态系统。
• 基于结构化理论和制度信任，提出一个以制度制裁而非技术透明度为重点的公众对人工智能信任的理论模型。
• 强调外部可审计的人工智能文档在实现公众问责和监管执行中的关键作用。
• 倡导系统性变革——如规则制定和执行机制——使人工智能足够可信，能够融入社会肌理。

提出的方法

• 应用结构化理论分析制度结构和规则如何规范人工智能的部署和公众信任。
• 借鉴制度信任文献，将公众信任框架化为依赖可信且可执行的监督机制，而非仅技术可解释性。
• 提出一种模型，即公众信任并非源于个体人工智能互动，而是源于可见的制度化监管过程。
• 强调外部可审计的人工智能文档是制度问责的核心组成部分，使公众和第三方能够开展审查。
• 概述构建全面监管生态系统的行动方案，包括规则制定、执行资源以及公众参与人工智能治理。
• 将现有组织内的人工智能文档工作（例如，用于伦理委员会的文档）与缺乏面向公众的问责机制进行对比，指出其不足。

实验结果

研究问题

• RQ1 尽管技术透明度和可解释性有所进步，为何公众对人工智能的信任仍发展不足？
• RQ2 制度性机制（如监管和监督）如何促进公众对人工智能系统的信任？
• RQ3 外部可审计的人工智能文档在实现公众问责和信任方面发挥什么作用？
• RQ4 缺乏有效运行的监管生态系统如何削弱公众对人工智能的信心？
• RQ5 为实现从以用户为中心的信任模型向全社会范围的信任过渡，需要哪些系统性变革？

主要发现

• 公众对人工智能的不信任主要源于监管生态系统发展不足，而该系统本应确保人工智能系统可信且可问责。
• 组织内部现有的人工智能文档工作虽属必要，但不足以建立公众信任，因其缺乏公众可见性和可执行性。
• 外部可审计的人工智能文档是制度信任的关键组成部分，使公众和第三方能够审查人工智能系统。
• 一个全面的监管生态系统——包含可执行规则和监督机制——对于将可信人工智能嵌入社会至关重要。
• 公众对人工智能的信任并非仅靠技术透明度实现，而是依赖制度制裁和可见的问责结构。
• 所提出的模型将可信人工智能研究从以用户为中心的信任转向制度信任，强调系统治理而非仅技术设计。