[论文解读] AI Ethics for Systemic Issues: A Structural Approach

Agnes Schim van der Loeff, I. G. Bassi+2 more|arXiv (Cornell University)|Nov 8, 2019

Ethics and Social Impacts of AI参考文献 18被引用 8

一句话总结

本文提出了一种结构化的AI伦理方法，通过解决AI与社会经济及政治背景互动所引发的系统性风险，补充了现有以个体能动性为中心的模型，尤其在气候变化和粮食安全等全球性挑战中。文章认为，仅靠技术修复和个体责任是不够的，呼吁开展跨学科合作、制定国际伦理标准，并建立结构性治理机制，以确保AI服务于公共利益。

ABSTRACT

The debate on AI ethics largely focuses on technical improvements and stronger regulation to prevent accidents or misuse of AI, with solutions relying on holding individual actors accountable for responsible AI development. While useful and necessary, we argue that this "agency" approach disregards more indirect and complex risks resulting from AI's interaction with the socio-economic and political context. This paper calls for a "structural" approach to assessing AI's effects in order to understand and prevent such systemic risks where no individual can be held accountable for the broader negative impacts. This is particularly relevant for AI applied to systemic issues such as climate change and food security which require political solutions and global cooperation. To properly address the wide range of AI risks and ensure 'AI for social good', agency-focused policies must be complemented by policies informed by a structural approach.

研究动机与目标

• 批判当前AI伦理话语的局限性，其核心聚焦于个体能动性与技术修复。
• 突出AI融入社会政治体系后引发的系统性风险，例如加剧不平等或助长监控。
• 倡导一种结构化方法，以考量AI的间接、情境性及集体性影响，特别是在气候变化和粮食安全等全球性挑战中。
• 呼吁AI研究人员、社会科学家与政策制定者之间开展跨学科合作，以预见并减轻系统性风险。
• 提出政策与治理机制，包括国际标准与独立监管，以确保AI服务于公共利益。

提出的方法

• 分析现有AI伦理框架，识别其对技术改进和个体责任的过度依赖。
• 将‘能动性’方法（聚焦于算法公平性、透明度与责任）与‘结构性’方法（考察系统性、情境性与集体性风险）进行对比。
• 分析案例研究，如AI在气候建模与粮食安全中的应用，表明数据共享与模型输出可能引发地缘政治或经济不稳定。
• 提出AI开发者必须评估的不仅是技术安全性，还包括数据与模型传播的更广泛社会政治后果。
• 建议在伦理准则中整合结构性风险评估，并纳入社会科学家与政策制定者的意见。
• 倡导国际合作、标准化伦理准则以及独立监管机构，以大规模实施伦理AI的监管。

实验结果

研究问题

• RQ1 为何当前的AI伦理方法在应对气候变化与粮食安全等领域的系统性风险时显得不足？
• RQ2 社会政治与经济背景如何放大或扭曲AI系统的影响，即使其在技术上公平且透明？
• RQ3 结构性因素（如权力失衡、资源短缺或全球不平等）在塑造AI实际后果方面发挥何种作用？
• RQ4 伦理指南如何改革，以纳入超越个体责任的结构性风险评估？
• RQ5 在国家与国际层面，需要哪些制度与治理机制来有效实施AI伦理的结构性方法？

主要发现

• 以能动性为中心的AI伦理方法，强调技术修复与个体责任，无法应对AI与社会政治结构互动所引发的间接与系统性风险。
• 如粮食安全中的AI案例所示，即使意图良好，若未考虑结构性不平等与权力动态，系统仍可能引发地缘政治紧张或资源冲突。
• 剑桥分析事件表明，系统性风险（如支持微观精准政治操控）无法仅通过技术修复或个体责任解决。
• 结构性方法要求AI开发者不仅评估算法性能，还需考量数据共享与模型部署的更广泛社会政治影响。
• 国际协调与标准化伦理准则对于防止‘伦理采购’行为、确保AI服务于全球公共产品至关重要。
• 独立监管机构与跨学科合作对于将抽象的伦理原则转化为可执行的政策，以减轻系统性风险，具有关键作用。