[论文解读] Principles to Practices for Responsible AI: Closing the Gap

Daniel Schiff, Bogdana Rakova+3 more|arXiv (Cornell University)|Jun 8, 2020

Ethics and Social Impacts of AI参考文献 28被引用 62

一句话总结

本文分析为何高层次的负責任 AI 原则难以落地，并提出以影響评估（尤以 IEEE 7010 为框架）来缩小差距，并以森林修复案例研究进行说明。

ABSTRACT

Companies have considered adoption of various high-level artificial intelligence (AI) principles for responsible AI, but there is less clarity on how to implement these principles as organizational practices. This paper reviews the principles-to-practices gap. We outline five explanations for this gap ranging from a disciplinary divide to an overabundance of tools. In turn, we argue that an impact assessment framework which is broad, operationalizable, flexible, iterative, guided, and participatory is a promising approach to close the principles-to-practices gap. Finally, to help practitioners with applying these recommendations, we review a case study of AI's use in forest ecosystem restoration, demonstrating how an impact assessment framework can translate into effective and responsible AI practices.

研究动机与目标

• 解释为何负责任 AI 原则常常无法转化为组织实践。
• 识别导致原则到实践差距的关键原因，包括复杂性、问责制以及学科分歧。
• 提出一个以影响评估为核心的有效负责任 AI 框架。
• 论证 IEEE 7010 的福祉影响评估是缩小差距的一个实用范例。
• 通过森林生态系统修复的 AI 案例研究展示其适用性，以说明可执行的实践。

提出的方法

• 回顾现有的负责任 AI 原则及其与实际采用之间的差距。
• 概述导致差距的五个解释：复杂性、问责分布、学科分化、工具过剩、以及劳动分工。
• 提出一个有效框架的标准（广泛、可操作、灵活、迭代、有引导、参与性）。
• 倡导以影响评估为范例框架，特别是 IEEE 7010。
• 在森林生态系统修复的 AI 案例研究中应用该框架，以展示从原则到实践的实际转化。

实验结果

研究问题

• RQ1 哪些因素能解释为何负责任 AI 原则未能在组织内部落地为具体实践？
• RQ2 一个总体框架如何解决 AI 开发与部署中的原则到实践的差距？
• RQ3 影响评估，尤其是 IEEE 7010，能否在整个生命周期阶段实现对负责任 AI 原则的落地？
• RQ4 在生态系统修复的案例研究中，如何展示使用福祉影响评估来指导负责任 AI？
• RQ5 需要哪些指导来跨行业和用例调整影响评估？

主要发现

• 差距的主要五个解释：AI 的广泛且复杂的影响、问责不清、学科分歧、工具泛滥，以及组织内部的劳动分工。
• 一个广泛、可操作、灵活、迭代、有引导、并具有参与性的影响评估框架可以帮助将原则转化为实践。
• IEEE 7010 的福祉影响评估通过将领域映射到可衡量的指标和利益相关者参与，提供了一个实用范例。
• 影响评估可适应多样化的用例，并可在系统和情境变化时迭代更新。
• 需要超越单一工具的指引，在参与式框架下偏向于行业和情境特定的适配。