[論文レビュー] From Algorithmic Black Boxes to Adaptive White Boxes: Declarative Decision-Theoretic Ethical Programs as Codes of Ethics

Martijn van Otterlo|arXiv (Cornell University)|Nov 16, 2017

Ethics and Social Impacts of AI参考文献 19被引用数 6

ひとこと要約

本稿は、AI意思決定を人間の価値観に一致させるための透明性があり形式化された倫理コードとして、宣言的意思決定理論的倫理プログラム（DDTEP）を提案する。専門職の倫理規定を論理ベースのモデルに統合することで、アーカイブや自律システムなどの分野において、解釈可能で説明可能で学習可能な倫理的推論を可能にする。概念実証の応用例は、おもちゃのジレンマやゲートキーピングシナリオにおいて実現可能性を示している。

ABSTRACT

Ethics of algorithms is an emerging topic in various disciplines such as social science, law, and philosophy, but also artificial intelligence (AI). The value alignment problem expresses the challenge of (machine) learning values that are, in some way, aligned with human requirements or values. In this paper I argue for looking at how humans have formalized and communicated values, in professional codes of ethics, and for exploring declarative decision-theoretic ethical programs (DDTEP) to formalize codes of ethics. This renders machine ethical reasoning and decision-making, as well as learning, more transparent and hopefully more accountable. The paper includes proof-of-concept examples of known toy dilemmas and gatekeeping domains such as archives and libraries.

研究の動機と目的

• 専門職の倫理規定から人間が合意した倫理的規範を形式化することで、AIにおける価値の一致問題を解決すること。
• アルゴリズム的「ブラックボックス」の不透明性を解消し、論理的モデリングによって解釈可能な「ホワイトボックス」に変換すること。
• 機械学習を用いて倫理的意思決定を精緻化しつつ、分野固有の規範から核心的な倫理的原則を保持すること。
• 倫理規定をAIシステム内の道徳的契約として扱うことで、人間と機械の倫理を統合すること。
• 図書館や自律走行車などの実世界の分野において、透明性があり説明可能で検証可能な倫理的AI意思決定のフレームワークを構築すること。

提案手法

• 論理プログラミングを用いて、専門職の倫理規定を宣言的意思決定理論的倫理プログラム（DDTEP）として形式化する。
• 意思決定理論的論理を用いて、倫理的規範をルール、結果、確率的推論のバランスで表現する。
• DT-ProblogをDDTEPの実装のコアシステムとして採用し、確率的推論とデータからの学習を可能にする。
• 微調整を用いて、DDTEPを分野固有の知識や変化する規範に適応させつつ、倫理的コア原則を保持する。
• 自然言語で書かれた倫理規定を形式的論理モデルに変換することで、法的および倫理的枠組み（例：GDPR）を統合する。
• 倫理的プログラムの形式的検証を可能にし、保証された倫理的しきい値や一貫性といった性質を証明する。

実験結果

リサーチクエスチョン

• RQ1 どのようにして専門職の倫理規定を、機械で処理可能で解釈可能なモデルとして形式化できるか？
• RQ2 DDTEPは、実世界の分野における透明性・説明可能性・学習可能性のある倫理的意思決定をどの程度サポートできるか？
• RQ3 機械学習の過程で倫理的価値をどのように保持しつつ、新しいデータや規範への適応を可能にできるか？
• RQ4 形式的検証は、倫理的AIプログラムの正しさと一貫性を保証するためにどのような役割を果たすか？
• RQ5 人間の倫理的規範と機械学習を、AIシステム内での道徳的契約フレームワークを通じてどのように統合できるか？

主な発見

• DDTEPは古典的な倫理的ジレンマやゲートキーピングシナリオを効果的にモデル化し、透明な倫理的推論の実現可能性を示している。
• 倫理規定を論理に形式化することで、倫理的バイアスが明確になり、AIシステム内の不透明性が低減される。
• 微調整により、DDTEPは分野固有の知識や変化する規範に適応しつつ、核心的な倫理的原則を損なわない。
• 人間の倫理規定を道徳的契約として統合することで、人間と機械の倫理的整合性を図る統一フレームワークが可能になる。
• DDTEPの形式的検証により、意思決定における保証された最小倫理スコアといった望ましい倫理的性質の証明が可能になる。
• このアプローチは複数ステップの倫理的推論をサポートでき、確率的および関係的意思決定モデルを用いて複雑な分野へ拡張可能である。