[论文解读] AI virtues -- The missing link in putting AI ethics into practice

Thilo Hagendorff|arXiv (Cornell University)|Nov 25, 2020

Psychology of Moral and Emotional Judgment参考文献 73被引用 8

一句话总结

本文提出一种美德伦理框架，以弥合AI伦理原则与实际实施之间的鸿沟，引入四种核心美德——正义、诚实、责任与关怀，以及两种第二层次美德——审慎与坚毅，以应对有限道德性问题。该框架提出了组织层面的策略，以培育这些美德，为AI开发中的原则导向伦理提供一种基于心理学、可操作的替代方案。

ABSTRACT

Several seminal ethics initiatives have stipulated sets of principles and standards for good technology development in the AI sector. However, widespread criticism has pointed out a lack of practical realization of these principles. Following that, AI ethics underwent a practical turn, but without deviating from the principled approach and the many shortcomings associated with it. This paper proposes a different approach. It defines four basic AI virtues, namely justice, honesty, responsibility and care, all of which represent specific motivational settings that constitute the very precondition for ethical decision making in the AI field. Moreover, it defines two second-order AI virtues, prudence and fortitude, that bolster achieving the basic virtues by helping with overcoming bounded ethicality or the many hidden psychological forces that impair ethical decision making and that are hitherto disregarded in AI ethics. Lastly, the paper describes measures for successfully cultivating the mentioned virtues in organizations dealing with AI research and development.

研究动机与目标

• 解决AI伦理原则与其实 world 实施之间长期存在的鸿沟。
• 识别心理障碍（如有限道德性）如何削弱AI开发中的伦理决策。
• 提出一种基于美德伦理的框架，作为AI伦理中原则化方法的实用替代方案。
• 界定核心美德与第二层次美德，以激励并维持AI从业者中的伦理行为。
• 为在AI研究与开发组织中系统培育这些美德提供可操作的措施。

提出的方法

• 定义四种基础AI美德：正义、诚实、责任与关怀，每种代表一种独特的伦理行为动机取向。
• 引入两种第二层次美德——审慎与坚毅，以帮助克服伦理决策中的认知与动机障碍。
• 基于美德伦理理论，将AI伦理重新定义为品格培养，而非规则遵循。
• 提出组织机制，如伦理培训、反思实践与文化构建，以将美德嵌入AI团队。
• 分析心理现象如有限道德性与认知偏见，这些现象会损害AI情境中的伦理判断。
• 将美德视为动态的、情境敏感的倾向，而非静态规则，以实现适应性伦理推理。

实验结果

研究问题

• RQ1 AI伦理如何超越抽象原则，在现实开发环境中实现实际应用？
• RQ2 哪些心理机制会损害AI专业人员的伦理决策，又该如何应对？
• RQ3 在AI研究与开发中，哪些具体美德对确保伦理行为最为关键？
• RQ4 组织如何系统性地培育其AI团队中的伦理美德？
• RQ5 第二层次美德如审慎与坚毅在认知与组织压力下，对维持伦理行为起到何种作用？

主要发现

• 本文识别出正义、诚实、责任与关怀为构成AI伦理开发动机基础的关键美德。
• 审慎与坚毅被提议作为第二层次美德，帮助个体克服有限道德性与心理盲点。
• 该框架将关注点从遵守伦理原则转向培育AI从业者中的伦理品格。
• 推荐采用反思实践与伦理培训等组织策略，以将美德融入AI团队文化。
• 该方法为原则导向伦理提供了一种基于心理学、可操作的替代方案，后者常因动机与意识不足而在实践中失效。
• 本文表明，AI中的伦理行为不仅关乎规则，更依赖于由制度设计塑造的、持续内化的美德。