[论文解读] Responses to a Critique of Artificial Moral Agents

Adam Poulsen, Michael Anderson+6 more|arXiv (Cornell University)|Mar 17, 2019

Ethics and Social Impacts of AI参考文献 39被引用 6

一句话总结

本文回应了Van Wynsberghe与Robbins（2018）对人工道德代理（AMAs）的批判，从六个关键理由——不可避免性、伤害预防、公众信任、滥用防范、更优的道德推理能力以及对人类道德更深层次的理解——辩护了开发AMAs的合理性。两位合著者代表机器伦理学中不同的视角，指出尽管并非所有研究者具有相同动机，但AMAs的科学研究具有重要价值，尽管面临该批判所提出的挑战。

ABSTRACT

The field of machine ethics is concerned with the question of how to embed ethical behaviors, or a means to determine ethical behaviors, into artificial intelligence (AI) systems. The goal is to produce artificial moral agents (AMAs) that are either implicitly ethical (designed to avoid unethical consequences) or explicitly ethical (designed to behave ethically). Van Wynsberghe and Robbins' (2018) paper Critiquing the Reasons for Making Artificial Moral Agents critically addresses the reasons offered by machine ethicists for pursuing AMA research; this paper, co-authored by machine ethicists and commentators, aims to contribute to the machine ethics conversation by responding to that critique. The reasons for developing AMAs discussed in van Wynsberghe and Robbins (2018) are: it is inevitable that they will be developed; the prevention of harm; the necessity for public trust; the prevention of immoral use; such machines are better moral reasoners than humans, and building these machines would lead to a better understanding of human morality. In this paper, each co-author addresses those reasons in turn. In so doing, this paper demonstrates that the reasons critiqued are not shared by all co-authors; each machine ethicist has their own reasons for researching AMAs. But while we express a diverse range of views on each of the six reasons in van Wynsberghe and Robbins' critique, we nevertheless share the opinion that the scientific study of AMAs has considerable value.

研究动机与目标

• 回应并反驳Van Wynsberghe与Robbins（2018）在其对人工道德代理（AMAs）的批判中提出的六个核心理由。
• 阐明机器伦理学家对AMA研究的动机各不相同，挑战其动机具有单一性的假设。
• 重申尽管存在对其可行性与可取性的批评关切，研究人工道德代理在科学与伦理层面仍具价值。
• 通过多作者、跨学科的回应，为机器伦理学领域的持续对话作出贡献，回应一篇重要批判。
• 表明AMAs的开发并非由单一理由驱动，而是由一系列伦理与科学上站得住脚的动机所支撑。

提出的方法

• 每位合著者针对Van Wynsberghe与Robbins（2018）所批判的六个理由，分别从自身独特的研究视角出发，提供独立的回应。
• 回应以一系列立场论文的形式展开，每位作者从自身所属的学科与伦理立场出发，回应相同的六个理由。
• 该方法强调哲学与伦理推理，而非技术实现，重点在于概念清晰性与论证正当性。
• 作者们援引人工智能、机器人学、心灵哲学以及人机交互领域的原则，以支持其立场。
• 论文采用协作式多作者格式，凸显机器伦理学界内部动机的多样性。
• 该文未提出AMAs的统一理论，而是强调伦理推理与研究目标的多元性。

实验结果

研究问题

• RQ1 尽管存在可行性与伦理影响方面的担忧，为何仍应开发人工道德代理？
• RQ2 在受到严格审视的前提下，追求AMAs的动机（如伤害预防与公众信任）在多大程度上是合理的？
• RQ3 人工道德代理是否可能比人类具备更优的道德推理能力？有哪些证据支持或反驳这一主张？
• RQ4 对AMAs的科学研究在多大程度上有助于深化对人类道德的理解？
• RQ5 公众信任在AMAs的开发与部署中扮演何种角色？如何在自主性与问责制之间实现伦理上的平衡？

主要发现

• 作者们共同拒绝认为存在单一、统一的AMAs开发理由，确认研究者的动机在不同研究者之间存在差异。
• 无论AMAs是否被视为不可避免，或作为道德增强的工具，其科学研究价值均得到肯定。
• 承认Van Wynsberghe与Robbins（2018）的批判具有重要性，但作者们认为其误解了机器伦理学界内部动机的多样性。
• 本文表明，即使某些AMAs开发理由受到质疑，AMAs的整体研究仍具有科学与伦理上的正当性。
• 回应确认，AMAs可作为探索道德推理的工具，既适用于机器，也适用于人类的道德认知。
• 作者们最终认为，机器伦理学领域受益于多元化的动机，这种多样性非但不削弱，反而增强了AMAs研究的正当性。