[论文解读] Practical Challenges in Explicit Ethical Machine Reasoning

Louise A. Dennis, Michael Fisher|Research Explorer (The University of Manchester)|Jan 4, 2018

Ethics and Social Impacts of AI参考文献 10被引用 5

一句话总结

本文提出了一种模块化、声明式的伦理机器推理架构，将伦理推理分解为一个伦理仲裁者和针对不同伦理特征的专用证据推理模块。通过解耦审查、实时处理与验证，该架构解决了多目标性、异构证据和可验证性等实际挑战，为可实施的伦理AI系统提供了一个可扩展的框架。

ABSTRACT

We examine implemented systems for ethical machine reasoning with a view to identifying the practical challenges (as opposed to philosophical challenges) posed by the area. We identify a need for complex ethical machine reasoning not only to be multi-objective, proactive, and scrutable but that it must draw on heterogeneous evidential reasoning. We also argue that, in many cases, it needs to operate in real time and be verifiable. We propose a general architecture involving a declarative ethical arbiter which draws upon multiple evidential reasoners each responsible for a particular ethical feature of the system's environment. We claim that this architecture enables some separation of concerns among the practical challenges that ethical machine reasoning poses.

研究动机与目标

• 识别并分析在实现伦理机器推理时面临的实际挑战，超越关于道德的哲学争论。
• 弥合理论伦理框架与其在自主系统中实际应用之间的差距。
• 提出一种可扩展的模块化软件架构，将伦理推理组件的职责分离。
• 在复杂且异构的环境中，支持实时、可验证且注重可审查性的伦理决策。
• 实现伦理推理逻辑的正式验证，且独立于底层证据推理模块。

提出的方法

• 设计一种通用架构，其中声明式伦理仲裁者基于来自专用证据推理模块的证据逻辑表示进行推理。
• 使用声明式编程（例如，逻辑程序、BDI智能体、约束求解器）以增强伦理仲裁者的可审查性与可验证性。
• 为每个证据推理模块分配特定的伦理特征（例如，伤害、公平性、礼貌性），以实现模块化、领域特定的推理。
• 将实时情境评估（由证据推理模块处理）与高层次的伦理推理（由仲裁者管理）解耦。
• 将证据结构化为逻辑或等式形式，包含确定性、严重性及影响范围等属性，以支持更丰富的推理。
• 在仲裁者中支持稀疏逻辑与丰富逻辑，以适应不同层次的伦理复杂性与表达能力。

实验结果

研究问题

• RQ1 哪些实际挑战会阻碍伦理机器推理的实现，且与关于道德的哲学分歧无关？
• RQ2 伦理推理如何实现模块化，以分离实时处理、多目标性与可验证性等职责？
• RQ3 声明式伦理仲裁者在提升可审查性及支持伦理决策的正式验证方面，有哪些优势？
• RQ4 在伦理系统中，如何有效表示并推理异构证据（例如，不确定性、严重性、影响）？
• RQ5 该通用架构能否同时支持伦理推理与更广泛的规范性推理（如社会规范）在自主系统中的应用？

主要发现

• 伦理机器推理面临显著的实际挑战，超越哲学争论，包括实时处理、多目标性以及异构证据的处理。
• 所提出的架构通过为证据推理模块（负责领域特定证据）和声明式仲裁者（负责伦理逻辑）分配不同角色，实现了职责分离。
• 在仲裁者中使用声明式编程增强了设计阶段的可审查性，并支持对伦理推理逻辑的正式验证。
• 该架构允许独立验证伦理推理组件，而不依赖证据推理模块，从而提升了系统可靠性。
• 伦理治理与GenEth的案例研究证明了模块化伦理推理的可行性，尽管实现复杂度仍然较高。
• 通过为相关特征添加新的证据推理模块，该架构可扩展至更广泛的规范性推理，如社会规范。