[论文解读] Contextualizing Artificially Intelligent Morality: A Meta-Ethnography of Top-Down, Bottom-Up, and Hybrid Models for Theoretical and Applied Ethics in Artificial Intelligence

Jennafer S. Roberts, Laura N. Montoya|arXiv (Cornell University)|Apr 15, 2022

Ethics and Social Impacts of AI被引用 4

一句话总结

这项元民族志研究提出一个三元框架——伦理、技术与政治——以理解人工智能（AI）的道德性，整合自上而下、自下而上及混合模型。它认为，伦理AI无法简化为单一方法，而必须在哲学、技术与权力驱动的政治维度之间持续协商，以避免复制系统性不公。

ABSTRACT

In this meta-ethnography, we explore three different angles of ethical artificial intelligence (AI) design implementation including the philosophical ethical viewpoint, the technical perspective, and framing through a political lens. Our qualitative research includes a literature review that highlights the cross-referencing of these angles by discussing the value and drawbacks of contrastive top-down, bottom-up, and hybrid approaches previously published. The novel contribution to this framework is the political angle, which constitutes ethics in AI either being determined by corporations and governments and imposed through policies or law (coming from the top), or ethics being called for by the people (coming from the bottom), as well as top-down, bottom-up, and hybrid technicalities of how AI is developed within a moral construct and in consideration of its users, with expected and unexpected consequences and long-term impact in the world. There is a focus on reinforcement learning as an example of a bottom-up applied technical approach and AI ethics principles as a practical top-down approach. This investigation includes real-world case studies to impart a global perspective, as well as philosophical debate on the ethics of AI and theoretical future thought experimentation based on historical facts, current world circumstances, and possible ensuing realities.

研究动机与目标

• 通过引入对伦理AI发展中权力结构的政治维度分析，拓展现有AI伦理框架。
• 探究自上而下、自下而上及混合方法在伦理AI中的理论、技术和政治语境下的互动方式。
• 通过现实世界案例研究，突出AI中的系统性风险，例如偏见复制与殖民式数据实践。
• 挑战AI可内在道德化的观念，主张伦理责任始终归属于人类与机构。
• 倡导一种动态、去中心化且持续协商的AI伦理方法，以反映文化、社会与权力差异。

提出的方法

• 对现有AI伦理文献进行元民族志综合，聚焦自上而下、自下而上及混合模型。
• 分析强化学习作为自下而上技术范例，展示伦理如何从学习行为与环境反馈中浮现。
• 考察AI伦理原则作为自上而下、技术与政策驱动的框架，用于标准化AI系统中的伦理行为。
• 整合政治分析，评估机构权力如何塑造AI中的伦理——无论是自上而下（政府/企业）施加，还是自下而上（公众/用户）要求。
• 运用非洲数据挖掘与韩国及巴西接触追踪应用的案例研究，阐明AI伦理结果在文化与政治上的差异性。
• 应用哲学与思辨性思想实验，探讨AI伦理框架的长期社会影响。

实验结果

研究问题

• RQ1 自上而下、自下而上及混合模型在AI伦理的理论、技术和政治实施中存在哪些差异？
• RQ2 治理与企业控制中的权力失衡如何在AI系统中再现系统性不公？
• RQ3 强化学习在多大程度上可作为AI伦理行为的可行自下而上机制？其局限性是什么？
• RQ4 现实世界中AI的部署，如接触追踪应用或非洲的数据挖掘，如何揭示伦理结果在文化与政治上的差异？
• RQ5 如果AI伦理仍嵌入以利润为导向的体系中，而将伦理本身商品化为资本形式，它能否真正实现伦理？

主要发现

• AI中的伦理无法通过单一模式实现——无论自上而下、自下而上或混合模式，均无法普遍充分或真正伦理化。
• 自上而下的伦理，如AI原则或基于规则的系统，往往反映企业或政府利益，有被异化为‘企业化伦理’的风险，服务于利润而非正义。
• 自下而上的方法，如强化学习，会反映训练数据中既有的社会偏见，常加剧现有不公，如种族或性别歧视。
• 案例研究显示，同一项AI技术在不同文化中可能产生截然不同的伦理后果——例如，韩国的接触追踪应用因公众信任与国家能力而成功，而巴西的则因缺乏公平与透明而失败。
• 政治视角揭示，AI伦理并非中立：它由权力掌握者塑造；若缺乏包容性与参与式治理，伦理AI可能加剧殖民主义与剥削。
• 真正的伦理AI需要持续协商、道德不确定性与系统性问责，而不能仅依赖固定规则或技术解决方案。