[论文解读] Survey on AI Ethics: A Socio-technical Perspective

Dave Mbiazi, Meghana Bhange+4 more|arXiv (Cornell University)|Nov 28, 2023

Adversarial Robustness in Machine Learning被引用 7

一句话总结

本文对人工智能伦理进行了全面的社会技术调查，整合了公平性、隐私、问责制、透明度、安全性及环境影响等关键原则的技术与社会视角。它综合现有研究、法规和技术解决方案，提出一个构建可信人工智能系统的整体框架，强调伦理设计与现实社会影响之间的相互作用。

ABSTRACT

The past decade has observed a significant advancement in AI with deep learning-based models being deployed in diverse scenarios, including safety-critical applications. As these AI systems become deeply embedded in our societal infrastructure, the repercussions of their decisions and actions have significant consequences, making the ethical implications of AI deployment highly relevant and essential. The ethical concerns associated with AI are multifaceted, including challenging issues of fairness, privacy and data protection, responsibility and accountability, safety and robustness, transparency and explainability, and environmental impact. These principles together form the foundations of ethical AI considerations that concern every stakeholder in the AI system lifecycle. In light of the present ethical and future x-risk concerns, governments have shown increasing interest in establishing guidelines for the ethical deployment of AI. This work unifies the current and future ethical concerns of deploying AI into society. While we acknowledge and appreciate the technical surveys for each of the ethical principles concerned, in this paper, we aim to provide a comprehensive overview that not only addresses each principle from a technical point of view but also discusses them from a social perspective.

研究动机与目标

• 应对人工智能在高风险领域部署所引发日益增长的社会与技术挑战。
• 将公平性、隐私、问责制和透明度等伦理原则统一为一个涵盖技术与社会维度的连贯框架。
• 分析伦理人工智能原则与其现实世界实施之间的相互作用，包括权衡与冲突。
• 在人工智能系统生命周期的背景下，评估各项伦理原则的当前技术解决方案与监管发展。
• 突出人工智能发展中新兴的挑战，如“公平性伪装”（fairwashing）、模型鲁棒性以及环境可持续性。

提出的方法

• 对2010年至2018年间的伦理准则、法规和技术文献进行系统性回顾。
• 将伦理原则划分为六个核心领域：隐私与数据保护、安全性与鲁棒性、透明度与可解释性、公平性、责任与问责制，以及环境影响。
• 分析机器学习中的攻击与防御措施，包括成员推理攻击、模型反演攻击和数据 poisoning 攻击，重点关注隐私与安全威胁。
• 调研技术方法，如差分隐私、对抗性训练、联邦学习以及模型可解释性技术（例如 LIME、SHAP）。
• 评估公平性缓解技术，包括对抗性去偏、对抗性重加权以及预处理方法。
• 通过能效指标、模型优化以及人工智能基础设施中可再生能源集成，评估人工智能的环境影响。

实验结果

研究问题

• RQ1 人工智能伦理的技术与社会维度在其生命周期的不同阶段如何相互作用？
• RQ2 在机器学习模型中确保隐私、公平性与透明度的关键技术解决方案及其局限性是什么？
• RQ3 在现实世界的人工智能系统中，隐私与准确性或公平性等相互冲突的伦理原则如何相互作用？
• RQ4 法规与合规框架在组织间强制实施伦理人工智能实践方面发挥什么作用？
• RQ5 人工智能在多大程度上可促进环境可持续性？其在能效与硬件使用方面存在哪些相关权衡？

主要发现

• 由于存在成员推理攻击和模型反演攻击等漏洞，尤其是在外包或预训练模型中，隐私与数据保护仍是主要关切。
• 技术防御措施如差分隐私和对抗性训练可提升模型鲁棒性，但通常会带来与准确性及公平性之间的权衡。
• 如对抗性去偏等公平性缓解技术可减少人口群体差异，但当使用敏感属性时，可能与隐私产生冲突。
• 如 LIME 和 SHAP 等可解释性工具可提升透明度，但易生成误导性或不一致的解释，从而助长“公平性伪装”（fairwashing）。
• 人工智能系统可提升能效与可再生能源整合，但其训练与推理过程具有显著的环境足迹，需进一步优化。
• 监管框架正在出现以强化问责与合规，但在标准化伦理基准与组织间人工智能系统审计方面仍面临挑战。