[論文レビュー] Practical Challenges in Explicit Ethical Machine Reasoning

Louise A. Dennis, Michael Fisher|Research Explorer (The University of Manchester)|Jan 4, 2018

Ethics and Social Impacts of AI参考文献 10被引用数 5

ひとこと要約

本論文は、倫理的推論を倫理的仲裁者と、異なる倫理的特徴に特化した証拠推論モジュールに分離することで、倫理的機械的推論のためのモジュラーで宣言的アーキテクチャを提案する。監査可能性、リアルタイム処理、検証可能性を分離することで、多目的性、異種の証拠、検証可能性といった実用的課題に対応し、実装可能な倫理的AIシステムのスケーラブルなフレームワークを提供する。

ABSTRACT

We examine implemented systems for ethical machine reasoning with a view to identifying the practical challenges (as opposed to philosophical challenges) posed by the area. We identify a need for complex ethical machine reasoning not only to be multi-objective, proactive, and scrutable but that it must draw on heterogeneous evidential reasoning. We also argue that, in many cases, it needs to operate in real time and be verifiable. We propose a general architecture involving a declarative ethical arbiter which draws upon multiple evidential reasoners each responsible for a particular ethical feature of the system's environment. We claim that this architecture enables some separation of concerns among the practical challenges that ethical machine reasoning poses.

研究の動機と目的

• 道徳に関する哲学的議論とは独立して、倫理的機械的推論を実装するうえでの実用的課題を特定・分析すること。
• 理論的倫理フレームワークと自律システムにおける実世界の実装との間のギャップを埋めること。
• 倫理的推論コンponents間の責任分担を分離する、スケーラブルでモジュラーなソフトウェアアーキテクチャを提唱すること。
• 複雑で異種の環境において、実時間処理、検証可能性、監査可能性に焦点を当てた倫理的意思決定を支援すること。
• 下位の証拠推論モジュールに依存しない、倫理的推論論理の形式的検証を可能にすること。

提案手法

• 専用の証拠推論モジュールから得られる証拠の論理的表現を扱う宣言的倫理的仲裁者を備えた汎用アーキテクチャを設計する。
• 監査可能性と検証可能性を高めるために、宣言的プログラミング（例：論理プログラム、BDIエージェント、制約推論）を用いて倫理的仲裁者を実装する。
• 各証拠推論モジュールに、具体的な倫理的特徴（例：害悪、公平性、礼儀正しさ）を割り当てることで、モジュラーかつドメイン特化された推論を可能にする。
• リアルタイムの状況評価（証拠推論モジュールが処理）と高レベルの倫理的推論（仲裁者が管理）を分離する。
• 証拠を論理的または方程式的表現として構造化し、信頼性、深刻度、影響範囲などの属性を含めることで、より豊かな推論を可能にする。
• 倫理的複雑性や表現力の異なる状況に対応できるよう、仲裁者にスパarsesな論理と豊富な論理の両方をサポートする。

実験結果

リサーチクエスチョン

• RQ1 道徳に関する哲学的合意とは独立して、倫理的機械的推論の実装を妨げる実用的課題は何か？
• RQ2 リアルタイム処理、多目的性、検証可能性といった責任分担をどのようにモジュラー化できるか？
• RQ3 宣言的倫理的仲裁者が監査可能性をどのように向上させ、倫理的意思決定の形式的検証をどのように支援できるか？
• RQ4 不確実性、深刻度、影響範囲などの異種の証拠を、倫理的システムで効果的に表現・推論するにはどうすればよいか？
• RQ5 汎用アーキテクチャは、自律システムにおける倫理的推論に加え、社会的規範などのより広範な規範的推論をサポートできるか？

主な発見

• 倫理的機械的推論は、道徳に関する哲学的議論を超えて、実時間処理、多目的性、異種証拠の取り扱いといった顕著な実用的課題に直面している。
• 提案されたアーキテクチャにより、証拠推論モジュール（ドメイン特化された証拠処理）と宣言的仲裁者（倫理的論理処理）にそれぞれ明確な役割を割り当てることで、責任分担の分離が可能になった。
• 仲裁者における宣言的プログラミングにより、設計段階での監査可能性が向上し、倫理的推論論理の形式的検証が可能になった。
• アーキテクチャにより、倫理的推論コンponentを証拠推論モジュールから独立して検証でき、システムの信頼性が向上した。
• Ethical Governors や GenEth の事例研究から、モジュラーな倫理的推論の実現可能性が示されたが、実装の複雑性は依然として高い。
• 関連する特徴用の新たな証拠推論モジュールを追加することで、社会的規範など、より広範な規範的推論への拡張が可能である。