[论文解读] AI and Ethics -- Operationalising Responsible AI

Liming Zhu, Xiwei Xu+3 more|arXiv (Cornell University)|May 19, 2021

Ethics and Social Impacts of AI参考文献 31被引用 9

一句话总结

本文提出了一套集成框架，通过将高层次原则、信任/可信性以及AI生命周期中的产品/流程支持相连接，实现伦理AI的实用化。该框架引入了实用机制，如伦理需求、设计模式、持续监控以及伦理认证等治理模型，以增强利益相关者的信任，并确保现实世界AI系统中的问责性。

ABSTRACT

In the last few years, AI continues demonstrating its positive impact on society while sometimes with ethically questionable consequences. Building and maintaining public trust in AI has been identified as the key to successful and sustainable innovation. This chapter discusses the challenges related to operationalizing ethical AI principles and presents an integrated view that covers high-level ethical AI principles, the general notion of trust/trustworthiness, and product/process support in the context of responsible AI, which helps improve both trust and trustworthiness of AI for a wider set of stakeholders.

研究动机与目标

• 弥合高层次伦理AI原则与其实现在世界系统中实施之间的差距。
• 调和AI系统中技术可信性与利益相关者感知信任之间的区别。
• 开发集成的产品与流程级支持机制，以增强AI开发中的信任与可信性。
• 提供可操作且可扩展的方法，将伦理嵌入AI软件开发生命周期（SDLC）中。
• 通过透明度、问责制以及治理结构（如伦理认证和影响评估）增强利益相关者的信心。

提出的方法

• 将伦理AI原则分类为三类：功能需求（如人类福祉）、非功能需求（如公平性、隐私性）以及元层级治理需求。
• 通过需求工程、价值敏感设计（VSD）以及基于价值的需求工程（价值优先-RE）将伦理原则整合到软件工程流程中。
• 提出设计模式与系统架构（如集成信任机制的联邦学习）以实现隐私性和非伤害性等伦理属性的原生嵌入。
• 实施持续验证与监控系统，以检测已部署AI模型中的伦理偏差或漂移。
• 建立治理机制，包括内部/外部伦理审查、利益相关者代表参与以及AI伦理成熟度认证计划。
• 将问责制与特定角色和实体关联，通过溯源追踪确保决策与AI成果的可追溯性。

实验结果

研究问题

• RQ1 如何在AI开发生命周期中有效实用化高层次的伦理AI原则？
• RQ2 哪些机制可以弥合AI系统中技术可信性与利益相关者感知信任之间的差距？
• RQ3 如何整合产品级与流程级支持，以增强AI系统中的信任与可信性？
• RQ4 治理结构（如伦理审查与认证）在制度化负责任AI实践方面发挥什么作用？
• RQ5 伦理原则如何系统性地嵌入软件工程实践，包括需求工程与系统设计？

主要发现

• 仅靠高层次伦理原则不足以确保可信AI；必须与产品与流程级机制相结合。
• 根植于技术设计与数据实践的可信性，必须通过透明度、可解释性以及利益相关者参与来补充感知信任。
• 伦理原则可作为功能需求、非功能需求或治理层级需求来实用化，其中后者可显著增强利益相关者信心。
• 持续监控与验证机制对于在动态环境中检测部署后伦理风险至关重要。
• 治理机制如伦理成熟度认证与利益相关者参与的审查，显著提升了问责性并制度化了伦理AI实践。
• 多样化的项目团队与可追溯的决策溯源对于确保问责性并减少AI系统中的偏见至关重要。