[论文解读] Relational Artificial Intelligence

Virginia Dignum|arXiv (Cornell University)|Feb 4, 2022

Ethics and Social Impacts of AI被引用 29

一句话总结

本论文主张一种关系性、以 Ubuntu- 和女性主义启发为基础的 AI 范式，强调社会-技术治理胜于纯粹理性、算法导向的方法。

ABSTRACT

The impact of Artificial Intelligence does not depend only on fundamental research and technological developments, but for a large part on how these systems are introduced into society and used in everyday situations. Even though AI is traditionally associated with rational decision making, understanding and shaping the societal impact of AI in all its facets requires a relational perspective. A rational approach to AI, where computational algorithms drive decision making independent of human intervention, insights and emotions, has shown to result in bias and exclusion, laying bare societal vulnerabilities and insecurities. A relational approach, that focus on the relational nature of things, is needed to deal with the ethical, legal, societal, cultural, and environmental implications of AI. A relational approach to AI recognises that objective and rational reasoning cannot does not always result in the 'right' way to proceed because what is 'right' depends on the dynamics of the situation in which the decision is taken, and that rather than solving ethical problems the focus of design and use of AI must be on asking the ethical question. In this position paper, I start with a general discussion of current conceptualisations of AI followed by an overview of existing approaches to governance and responsible development and use of AI. Then, I reflect over what should be the bases of a social paradigm for AI and how this should be embedded in relational, feminist and non-Western philosophies, in particular the Ubuntu philosophy.

研究动机与目标

• 通过突出 AI 的社会影响，推动负责任的开发与使用。
• 批评传统的理性与算法化 AI 观，并倡导关系性视角。
• 探讨 Ubuntu 与女性主义哲学如何为 AI 建立社会范式提供基础。
• 调查治理方法（监管、标准、评估、行为准则、意识提升）及它们如何适配关系性 AI 框架。
• 提出将关系性嵌入 AI 设计、部署与政策中，以应对权力、包容性和社会福祉。

提出的方法

• 对 AI 概念、治理方法和伦理考量的文献综述。
• 比较理性与关系性 AI 范式的哲学论证。
• 对 AI 中社会-技术系统及权力动态的概念分析。
• 将 Ubuntu 与女性主义理论整合为关系性 AI 的基础。
• 讨论监管、标准化、评估、行为准则和参与机制等治理工具。

实验结果

研究问题

• RQ1 应有哪些因素构成能够考虑情境、变化与集体推理的 AI 社会范式的基础？
• RQ2 Ubuntu 哲学如何将 AI 定位于共同体关系与社会公正的基础？
• RQ3 女性主义理论如何揭示 AI 开发与使用中的权力动态与包容性？
• RQ4 监管、标准、评估和行为准则的哪种组合最有助于支持负责任的、关系性的 AI？
• RQ5 应如何加强意识提升与参与，以促进跨地区的包容性 AI 治理？

主要发现

• 需要一种关系性范式来建模 AI 行为与社会情境之间的反馈回路，融入集体推理和不断变化的规范。
• Ubuntu 与女性主义哲学为将 AI 扎根于共同体关系、权力意识和包容性提供互补的基础。
• AI 治理不仅仅是打勾过关；它必须在社会-技术生态系统内整合监管、标准、评估工具、行为准则和咨询结构。
• 当前的 AI 叙事（智能、神力，或纯算法）对 AI 的误解并阻碍负责任的发展；情境化的关系性视角可以缓解这些问题。
• 区域性和跨文化视角（如非洲）对于全球负责任的 AI 至关重要，确保政策反映多样的社会规范与价值观。