[论文解读] Designing Normative Theories of Ethical Reasoning: Formal Framework, Methodology, and Tool Support.

Christoph Benzmüller, Xavier Parent+1 more|arXiv (Cornell University)|Mar 25, 2019

Logic, Reasoning, and Knowledge参考文献 53被引用 3

一句话总结

本文提出了 LogiKEy，一种使用高阶逻辑嵌入来设计智能自主系统中的伦理推理机和规范理论的形式化框架与方法论。通过利用现成的定理证明器和模型查找器，LogiKEy 支持对道义逻辑、其组合以及伦理-法律领域理论的灵活、高效实验，表明 HOL 的不可判定性并不会阻碍实际性能。

ABSTRACT

A framework and methodology---termed LogiKEy---for the design and engineering of ethical reasoners, normative theories and deontic logics is presented. The overall motivation is the development of suitable means for the control and governance of intelligent autonomous systems. LogiKEy's unifying formal framework is based on semantical embeddings of deontic logics, logic combinations and ethico-legal domain theories in expressive classic higher-order logic. This meta-logical approach enables the provision of powerful tool support in LogiKEy with small effort: off-the-shelf theorem provers and model finders for higher-order logic are assisting the LogiKEy designer of ethical intelligent agents to flexibly experiment with underlying logics and their combinations, with ethico-legal domain theories, and with concrete examples---all at the same time. Continuous improvements of these off-the-shelf provers, without further ado, leverage the reasoning performance in LogiKEy. Case studies, in which the LogiKEy framework and methodology has been applied and tested, give early evidence that HOL's undecidability often does not hinder efficient experimentation.

研究动机与目标

• 开发一种用于在智能自主系统中构建伦理推理机的形式化框架。
• 解决以统一、可扩展的方式集成并推理复杂规范逻辑与道义逻辑的挑战。
• 提供工具支持，利用现有的高阶逻辑定理证明器与模型查找器，以减少实现工作量。
• 在单一形式化环境中支持对道义逻辑组合与伦理-法律领域理论的灵活实验。
• 证明高阶逻辑中的不可判定性并不会阻碍在实际伦理人工智能设计中的高效推理。

提出的方法

• 采用语义嵌入在表达性强的高阶逻辑（HOL）中表示道义逻辑、逻辑组合以及伦理-法律领域理论。
• 利用现成的高阶定理证明器与模型查找器作为 LogiKEy 的核心推理引擎。
• 设计一种元逻辑框架，抽象出底层逻辑细节，支持对伦理推理系统的高层级规格说明。
• 在单一环境中同时支持对底层逻辑、领域理论与示例场景的实验。
• 借助现有 HOL 工具的持续改进，无需额外开发即可提升 LogiKEy 中的推理性能。
• 在案例研究中应用该框架，以验证其在真实世界伦理推理场景中的实用性与可扩展性。

实验结果

研究问题

• RQ1 如何设计一种统一的形式化框架，以支持智能自主系统中伦理推理机的构建？
• RQ2 现成的高阶逻辑工具在多大程度上能有效支持道义逻辑与规范理论的设计与实验？
• RQ3 高阶逻辑中的语义嵌入能否实现对多种道义逻辑与领域理论的灵活且可扩展的集成？
• RQ4 高阶逻辑的不可判定性是否显著阻碍伦理人工智能系统中的实际推理性能？
• RQ5 如何在最小化复杂性的同时，最大化伦理推理系统开发中的灵活性与表达力？

主要发现

• LogiKEy 框架成功实现了基于高阶逻辑语义嵌入的伦理推理机的设计与实验。
• 现成的高阶逻辑定理证明器与模型查找器提供了高效且可扩展的工具支持，且实现开销极低。
• 元逻辑方法使得道义逻辑、逻辑组合与伦理-法律领域理论的无缝集成与并行实验成为可能。
• 案例研究表明，高阶逻辑的不可判定性并不会阻碍在伦理推理中进行高效且实用的实验。
• 底层 HOL 工具的持续进步可直接提升 LogiKEy 中的推理性能，而无需额外工程开发。
• 该框架在智能自主系统治理与控制的实际部署中展现出强大潜力。