[论文解读] Responsible-AI-by-Design: a Pattern Collection for Designing Responsible AI Systems

Qinghua Lu, Liming Zhu+2 more|arXiv (Cornell University)|Mar 2, 2022

Ethics and Social Impacts of AI被引用 9

一句话总结

本文提出一种基于模式的系统级设计方法，通过系统性文献综述，将负责任人工智能（Responsible AI）嵌入AI系统。该方法提出12个可操作的、面向产品的设计模式，如伦理黑箱、伦理数字孪生和共版本注册表，供架构师和开发人员在AI全生命周期中实现问责性、透明性和伦理合规性，为负责任AI的系统级设计提供首个具体、可操作的指导方案。

ABSTRACT

Although AI has significant potential to transform society, there are serious concerns about its ability to behave and make decisions responsibly. Many ethical regulations, principles, and guidelines for responsible AI have been issued recently. However, these principles are high-level and difficult to put into practice. In the meantime much effort has been put into responsible AI from the algorithm perspective, but they are limited to a small subset of ethical principles amenable to mathematical analysis. Responsible AI issues go beyond data and algorithms and are often at the system-level crosscutting many system components and the entire software engineering lifecycle. Based on the result of a systematic literature review, this paper identifies one missing element as the system-level guidance - how to design the architecture of responsible AI systems. We present a summary of design patterns that can be embedded into the AI systems as product features to contribute to responsible-AI-by-design.

研究动机与目标

• 通过聚焦系统级设计，弥合高层级伦理原则与AI系统实际实现之间的差距。
• 识别可操作、可重用的设计模式，可作为产品功能嵌入，以实现负责任AI的落地。
• 为架构师和开发人员提供一种面向生命周期的框架，将伦理考量整合到AI软件工程全生命周期中。
• 通过强调架构与系统级解决方案，克服以算法为中心的负责任AI方法的局限性。
• 通过提供基于真实AI开发实践的、具体、可追溯且可实施的设计方案，弥合原则与算法之间的鸿沟。

提出的方法

• 在ACM、IEEE、ScienceDirect和Google Scholar等主要学术数据库中，使用'AI'、'Responsible'和'Solution'等关键词，开展系统性文献综述（SLR）。
• 仅选取提出具体设计或流程解决方案的论文，排除高层级框架或原则类文献。
• 将识别出的解决方案映射到哈佛大学的伦理原则：隐私、问责性、安全性与可靠性、透明性与可解释性、公平性、人机控制以及人类价值观。
• 绘制AI系统生命周期的状态图，将设计模式与特定状态或转换（如资源配置、运行、故障处理）关联。
• 提出12个系统级设计模式，每种模式均包含名称、意图、结构和适用性，如伦理黑箱、伦理数字孪生和共版本注册表。
• 将模式整合进所提出的负责任AI模式目录中，强调产品级功能，而非流程检查清单或离线培训实践。

实验结果

研究问题

• RQ1 哪些可重用的系统级设计模式可被识别，以在AI系统中实现负责任AI的落地？
• RQ2 这些设计模式如何映射到已配置AI系统生命周期中的特定状态或转换？
• RQ3 哪些关键架构组件能够支持AI系统中的问责性、透明性和伦理合规性？
• RQ4 如何系统性地将伦理知识、版本控制和审计功能作为产品功能嵌入AI系统设计？
• RQ5 设计模式在哪些方面可支持AI系统中的持续伦理验证、容错能力及责任追溯？

主要发现

• 本研究识别出12个可操作的系统级设计模式，可作为产品功能嵌入，以实现负责任AI的系统级设计，如伦理黑箱和伦理数字孪生。
• 这些模式已映射到AI系统生命周期中的特定状态或转换，为实施提供时间与上下文导向的指导。
• 伦理黑箱模式通过记录传感器数据、决策、行为与影响，支持事后审计，提升问责性与可追溯性。
• 共版本注册表模式通过追踪AI组件、数据、模型与配置在整个系统生命周期中的协同演化，确保可追溯性与信任。
• 伦理数字孪生支持系统级仿真与部署前的伦理风险评估，提升安全性与可靠性。
• 全局视图审计器模式在伦理事件调查中解决多个AI系统间的数据差异问题，提升责任识别能力与系统可靠性。