[论文解读] One Formalization of Virtue Ethics via Learning

Naveen Sundar Govindarajulu, Selmer Bringjsord+1 more|arXiv (Cornell University)|May 20, 2018

Logic, Reasoning, and Knowledge参考文献 8被引用 3

一句话总结

本文提出了一种通过认知演算形式化典范主义德性伦理的方法，该方法整合了学习、情感（尤其是钦佩）以及基于效用的推理。它建模了个体如何通过观察和内化典范来习得德性品质，并使用量化模态逻辑框架，使机器能够自动化进行伦理推理，标志着朝着基于德性理论而非义务论或功利主义的机器伦理迈出了基础性一步。

ABSTRACT

Given that there exist many different formal and precise treatments of deontologi- cal and consequentialist ethics, we turn to virtue ethics and consider what could be a formalization of virtue ethics that makes it amenable to automation. We present an embroyonic formalization in a cognitive calculus (which subsumes a quantified first-order logic) that has been previously used to model robust ethical principles, in both the deontological and consequentialist traditions.

研究动机与目标

• 解决与义务论和功利论伦理相比，德性论缺乏正式且可计算的处理方式的问题。
• 通过使用认知演算形式化一种特定版本的德性论——典范主义德性理论，实现人工智能与机器人中德性论的自动化。
• 建模情感（尤其是钦佩）在道德理解与品质学习中的基础性作用。
• 形式化从典范学习德性品质的过程，超越孤立行为，转向内化的性格倾向。
• 弥合非正式德性论与机器可计算伦理推理之间的鸿沟。

提出的方法

• 使用道义认知事件演算（DCEC），一种量化一阶模态逻辑，形式化具有时间与意图流变的伦理推理。
• 引入效用函数 μ(f,t)，该函数聚合随时间与个体变化的总效用，源自个体特定的效用函数 ν(a,f,t)。
• 通过OCC（Ortony, Cohen, and Collins）模型建模情感，以量化模态逻辑形式化表示基于事件结果与涉事个体的情感，如喜悦、痛苦与怜悯。
• 将钦佩定义为对典范的关键情感反应，通过观察与学习触发德性品质的习得。
• 引入一种形式机制，基于对典范及其后果的持续评估，实现信念与品质随时间的更新。
• 使用反事实条件框架评估伦理推理中的“如果……会怎样”情景，其基础为基于证明的语义。

实验结果

研究问题

• RQ1 如何形式化典范主义德性伦理，以实现在人工智能体中的自动化？
• RQ2 情感（尤其是钦佩）在德性品质习得过程中扮演何种角色，以及如何进行计算建模？
• RQ3 如何形式化复杂性格品质的学习，而非仅限于孤立行为？
• RQ4 一种支持义务论与功利论推理的认知演算，是否也能通过学习支持德性论？
• RQ5 需要何种形式机制来表示典范及其道德地位随时间动态演变的特性？

主要发现

• 本文成功地将典范主义德性伦理（Vz）形式化为 Vzf，嵌入认知演算框架中，使机器能够推理德性行为。
• 情感（如钦佩）被建模为触发德性品质学习的流变，其形式定义基于OCC模型。
• 建立了基于效用的框架，总效用在时间与个体间进行计算，使功利论评估可在德性论语境中实现。
• 该形式化支持信念与品质学习的动态更新，反映典范与道德理解的演变特性。
• 该方法表明，德性论可通过一种已支持义务论与功利论推理的逻辑实现形式化与自动化。
• 该工作为将德性论整合进道德人工智能提供了基础，表明当基于学习与情感时，基于性格的伦理在计算上是可行的。