[論文レビュー] Designing Normative Theories of Ethical Reasoning: Formal Framework, Methodology, and Tool Support.

Christoph Benzmüller, Xavier Parent+1 more|arXiv (Cornell University)|Mar 25, 2019

Logic, Reasoning, and Knowledge参考文献 53被引用数 3

ひとこと要約

この論文では、高階論理埋め込みを用いて知能自律システムにおける倫理的推論装置および規範的理論を設計するための形式的フレームワークおよび手法であるLogiKEyを紹介する。汎用の定理証明器およびモデル探索ツールを活用することで、LogiKEyは道徳論理、それらの組み合わせ、および倫理的・法的ドメイン理論における柔軟で効率的な実験を可能にし、HOLの不決定性が実用的性能を妨げないことを示している。

ABSTRACT

A framework and methodology---termed LogiKEy---for the design and engineering of ethical reasoners, normative theories and deontic logics is presented. The overall motivation is the development of suitable means for the control and governance of intelligent autonomous systems. LogiKEy's unifying formal framework is based on semantical embeddings of deontic logics, logic combinations and ethico-legal domain theories in expressive classic higher-order logic. This meta-logical approach enables the provision of powerful tool support in LogiKEy with small effort: off-the-shelf theorem provers and model finders for higher-order logic are assisting the LogiKEy designer of ethical intelligent agents to flexibly experiment with underlying logics and their combinations, with ethico-legal domain theories, and with concrete examples---all at the same time. Continuous improvements of these off-the-shelf provers, without further ado, leverage the reasoning performance in LogiKEy. Case studies, in which the LogiKEy framework and methodology has been applied and tested, give early evidence that HOL's undecidability often does not hinder efficient experimentation.

研究の動機と目的

• 知能自律システムにおける倫理的推論装置を設計するための形式的フレームワークを開発すること。
• 統合的かつ拡張可能な方法で、複雑な規範的および道徳論理を統一的に統合し、推論することの課題に対処すること。
• 既存の定理証明器およびモデル探索ツールを活用して、高階論理のための実装作業を最小限に抑えるツール支援を提供すること。
• 単一の形式的環境内で道徳論理の組み合わせおよび倫理的・法的ドメイン理論の柔軟な実験を可能にすること。
• 高階論理における不決定性が、実用的倫理AI設計における効率的推論を著しく妨げないことを示すこと。

提案手法

• 道徳論理、論理の組み合わせ、および倫理的・法的ドメイン理論を、表現力の高い高階論理（HOL）内に意味的埋め込みを用いて表現すること。
• LogiKEyのコア推論エンジンとして、汎用の高階論理定理証明器およびモデル探索ツールを活用すること。
• 低レベルの論理的詳細を抽象化するメタ論理的フレームワークを設計し、倫理的推論システムの高レベルな仕様を可能にすること。
• 同一環境内で、基礎となる論理、ドメイン理論、および例題シナリオを同時に実験可能にすること。
• 既存のHOLツールにおける継続的な改善を活用することで、追加の開発なしにLogiKEyにおける推論性能を向上させること。
• 事例研究を用いて、実世界の倫理的推論シナリオにおける実用性およびスケーラビリティを検証すること。

実験結果

リサーチクエスチョン

• RQ1 知能自律システム向けの倫理的推論装置の設計を支援する統合的で形式的なフレームワークをどのように設計できるか。
• RQ2 汎用の高階論理ツールを、道徳論理および規範的理論の設計と実験に効果的に活用できるか。
• RQ3 高階論理における意味的埋め込みが、複数の道徳論理およびドメイン理論の柔軟でスケーラブルな統合を可能にするか。
• RQ4 高階論理における不決定性が、倫理的AIシステムにおける実用的推論性能を著しく妨げるか。
• RQ5 倫理的推論システム開発における柔軟性と表現力の最大化を図りながら、ツール支援の複雑さを最小限に抑える方法は何か。

主な発見

• LogiKEyフレームワークは、高階論理における意味的埋め込みを用いて、倫理的推論装置の設計と実験を成功裏に可能にした。
• 高階論理向けの汎用定理証明器およびモデル探索ツールは、最小限の実装オーバーヘッドで効果的かつスケーラブルなツール支援を提供した。
• メタ論理的アプローチにより、道徳論理、論理の組み合わせ、および倫理的・法的ドメイン理論のシームレスな統合と同時に実験が可能となった。
• 事例研究から、高階論理における不決定性が、倫理的推論における効率的かつ実用的な実験を妨げないことが示された。
• 下位層のHOLツールにおける継続的な進歩が、追加の工学的開発なしにLogiKEyにおける推論性能を直接向上させた。
• このフレームワークは、知能自律システムのガバナンスおよび制御における実世界への導入に強く潜在的であることが示された。