[论文解读] Beyond Bias and Compliance: Towards Individual Agency and Plurality of Ethics in AI

Thomas Krendl Gilbert, Megan Welle Brozek+1 more|arXiv (Cornell University)|Feb 23, 2023

Ethics and Social Impacts of AI被引用 4

一句话总结

本文提出从以偏见和合规为中心的主导人工智能伦理范式，转向一种强调个体能动性与伦理价值多元性的框架。通过重新思考数据标注作为道德行为，并将人工智能伦理建立在用户定义的价值与系统架构之上，作者主张实现与用户价值观一致的人工智能，从而通过用户控制与表达自由来建立信任。

ABSTRACT

AI ethics is an emerging field with multiple, competing narratives about how to best solve the problem of building human values into machines. Two major approaches are focused on bias and compliance, respectively. But neither of these ideas fully encompasses ethics: using moral principles to decide how to act in a particular situation. Our method posits that the way data is labeled plays an essential role in the way AI behaves, and therefore in the ethics of machines themselves. The argument combines a fundamental insight from ethics (i.e. that ethics is about values) with our practical experience building and scaling machine learning systems. We want to build AI that is actually ethical by first addressing foundational concerns: how to build good systems, how to define what is good in relation to system architecture, and who should provide that definition. Building ethical AI creates a foundation of trust between a company and the users of that platform. But this trust is unjustified unless users experience the direct value of ethical AI. Until users have real control over how algorithms behave, something is missing in current AI solutions. This causes massive distrust in AI, and apathy towards AI ethics solutions. The scope of this paper is to propose an alternative path that allows for the plurality of values and the freedom of individual expression. Both are essential for realizing true moral character.

研究动机与目标

• 挑战将偏见与合规作为人工智能伦理主要框架的主导地位，因为这些框架无法涵盖道德决策的完整范围。
• 解决数据标注如何塑造人工智能系统伦理行为这一根本问题，将标注定位为一种道德行为。
• 通过确保用户对算法行为与伦理结果拥有直接控制权，为人工智能建立信任奠定基础。
• 倡导一种多元伦理模型，尊重多样化价值，并支持人工智能系统中的个体表达。
• 重新定义伦理人工智能，不再将其视为以合规为导向的产品，而是作为使用户能够依据自身道德原则生活的系统。

提出的方法

• 将数据标注重新定位为核心伦理实践，主张标注选择直接影响人工智能系统的道德行为。
• 将道德哲学的洞见——特别是价值观在伦理决策中的作用——整合到机器学习系统设计中。
• 提出伦理人工智能必须在架构上支持用户定义的价值，使个人能够塑造算法的行为方式。
• 强调伦理对齐不仅需要公平性度量，更需要为个体能动性与道德表达提供结构化支持。
• 倡导参与式设计流程，让最终用户参与定义人工智能系统内的伦理规范。
• 呼吁重新思考人工智能的信任机制，不应源于监管合规，而应源于用户对伦理人工智能带来切实个人价值的亲身体验。

实验结果

研究问题

• RQ1 人工智能伦理如何超越偏见缓解与监管合规的局限，以应对道德决策的完整范围？
• RQ2 数据标注在何种方式下作为一项道德行为，从而塑造人工智能系统的伦理行为？
• RQ3 为实现人工智能系统中的个体能动性，需要哪些结构与设计原则？
• RQ4 如何将价值多元性嵌入人工智能架构，以支持多样化的道德表达？
• RQ5 哪些机制可使用户直接体验到伦理人工智能带来的个人价值，从而促进信任？

主要发现

• 本文确立了数据标注并非中立的技术过程，而是一项塑造人工智能系统伦理行为的基础性道德行为。
• 当前以偏见与合规为中心的人工智能伦理方法，未能解决人工智能中个体能动性与道德自主决定的深层需求。
• 除非用户能直接体验到伦理人工智能行为带来的个人价值，否则无法真正信任该系统，而当前系统尚无法实现这一点。
• 支持多样化价值与个体表达的多元伦理模型，是实现人工智能系统真正道德特质的必要条件。
• 作者得出结论：伦理人工智能必须在架构上允许用户定义并实施自身价值，从而超越“一刀切”的合规框架。
• 所提出的框架将人工智能的信任重新定义为源于用户控制与价值对齐，而非仅依赖对外部法规的遵从。