[论文解读] Responsible Artificial Intelligence -- from Principles to Practice

Virginia Dignum|arXiv (Cornell University)|May 22, 2022

Ethics and Social Impacts of AI被引用 4

一句话总结

本文提出了一套全面的责任AI框架，通过价值敏感工程将伦理原则融入技术设计，强调透明度、问责制和利益相关者参与。该框架引入Glass Box方法，通过将社会价值观与系统需求相联系，实现可信性，将关注点从性能本身转向对齐价值观、可解释的AI系统。

ABSTRACT

The impact of Artificial Intelligence does not depend only on fundamental research and technological developments, but for a large part on how these systems are introduced into society and used in everyday situations. AI is changing the way we work, live and solve challenges but concerns about fairness, transparency or privacy are also growing. Ensuring responsible, ethical AI is more than designing systems whose result can be trusted. It is about the way we design them, why we design them, and who is involved in designing them. In order to develop and use AI responsibly, we need to work towards technical, societal, institutional and legal methods and tools which provide concrete support to AI practitioners, as well as awareness and training to enable participation of all, to ensure the alignment of AI systems with our societies' principles and values.

研究动机与目标

• 弥合伦理AI原则与其实现在真实系统中实践之间的日益扩大的差距。
• 通过澄清AI本质上是一种数据驱动的算法工具，而非固有智能或神奇的存在，纠正人们对AI的误解。
• 通过让多元利益相关者参与定义伦理优先事项和系统需求，推动包容性、以价值观为中心的设计。
• 开发技术和法律社会方法，以确保AI系统的问责制、透明度和公平性。
• 将责任和监管重新定位为创新的推动者，而非障碍，从而促进可信且可持续的AI发展。

提出的方法

• 采用面向价值的设计方法，将抽象的伦理原则（如公平性、隐私）转化为具体的系统需求。
• 提出Glass Box框架，作为一种模块化、集成验证的系统方法，用于构建透明且可解释的AI系统。
• 强调利益相关者在价值识别、优先级排序及设计决策记录中的参与。
• 将社会技术考量整合到AI开发生命周期中，包括数据治理、权力关系和社会影响。
• 将关注点从以性能为中心的AI开发，转向以价值观为中心的设计，融入因果推理、抽象思维和先验知识。
• 使用结构化的道德审议方法（例如算法控制、用户可控或监管机制）来在系统行为中实现伦理选择。

实验结果

研究问题

• RQ1 如何系统性地将公平性、透明度和隐私等伦理原则转化为技术系统需求？
• RQ2 哪些方法能够实现在AI设计中跨多元利益相关者的包容性和透明的价值识别？
• RQ3 如何在不牺牲性能或可扩展性的前提下，构建可解释且可验证的AI系统？
• RQ4 当前将AI描述为魔法或必然进步的叙事，以何种方式阻碍了负责任的AI发展？
• RQ5 如何将责任和监管重新定位为创新的促进因素，而非AI开发中的障碍？

主要发现

• 全球在五大核心伦理原则上趋于一致：透明度、正义与公平、非伤害、责任和隐私。
• 尽管在伦理原则上达成广泛共识，但其实际解释和实施在不同组织和指南之间存在显著差异。
• AI并非智能或神奇的；它是一种依赖于模式、输入数据质量及设计选择的数据驱动统计工具——这使得数据和算法决策具有深刻的意识形态属性。
• Glass Box框架通过将基于价值观的设计与形式化验证方法相结合，实现了模块化、可验证且透明的AI系统。
• 从以性能为导向转向以价值观为导向的AI开发，需要重新思考AI创新，纳入因果推理、抽象思维和先验知识。
• 负责任的AI不仅关乎缓解偏见或确保公平性，更是一种整体性的、系统性的变革，涉及AI的构想、构建与治理方式。