[論文レビュー] One Formalization of Virtue Ethics via Learning

Naveen Sundar Govindarajulu, Selmer Bringjsord+1 more|arXiv (Cornell University)|May 20, 2018

Logic, Reasoning, and Knowledge参考文献 8被引用数 3

ひとこと要約

本稿は、学習、感情（特に称賛）、および利益に基づく推論を統合する認知論理式を用いて、例示主義的徳目倫理を形式化する。エージェントは模範的人物を観察し内省することで徳目的特徴を学ぶ仕組みをモデル化し、時間的・意図的フラuentを扱う量化されたモーダル論理フレームワークを用いて機械における倫理的推論を自動化する。これは、義務論や結果主義に代わる徳目論に基づく機械倫理への基盤的ステップを示している。

ABSTRACT

Given that there exist many different formal and precise treatments of deontologi- cal and consequentialist ethics, we turn to virtue ethics and consider what could be a formalization of virtue ethics that makes it amenable to automation. We present an embroyonic formalization in a cognitive calculus (which subsumes a quantified first-order logic) that has been previously used to model robust ethical principles, in both the deontological and consequentialist traditions.

研究の動機と目的

• 義務論的・結果主義的倫理に比べ、徳目倫理に対する形式的かつ計算可能な取り扱いの欠如に応えること。
• 例示主義的徳目理論を認知論理式を用いて形式化することで、人工知能およびロボットにおける徳目倫理の自動化を可能にすること。
• 特に称賛を含む感情が道徳的理解と特徴の学習の基盤をなすという役割をモデル化すること。
• 孤立した行動を超えて、内面化された性格的傾向としての徳目的特徴の学習プロセスを形式化すること。
• 口頭的徳目倫理と機械計算可能な倫理的推論の間の溝を埋めること。

提案手法

• 時間的および意図的フラuentを扱う量化された一階モーダル論理である道徳的認知的出来事論理（DCEC）を用いて、倫理的推論を形式化する。
• 時間的およびエージェントごとの利益関数 ν(a,f,t) から導出される、全期間および全エージェントにわたる総利益 μ(f,t) を表す利益関数を導入する。
• OCC（オルトニ、コーエン、コリンズ）モデルを用いて感情をモデリングし、イベントの結果と関係するエージェントに基づいて、喜び、苦しみ、憤りなどの感情を、量化されたモーダル論理で表現する。
• 称賛を模範的人物に対する主要な感情的反応と定義し、観察と学習を通じて徳目的特徴が学習されるプロセスを促進する。
• 模範的人物とその結果の継続的評価に基づき、信念と特徴の更新を形式的に定義するメカニズムを導入する。
• 証明に基づく意味論に根ざした反事後的条件文フレームワークを用いて、倫理的推論における仮説的シナリオ（もし～なら）を評価する。

実験結果

リサーチクエスチョン

• RQ1 例示主義的徳目倫理は、人工エージェントにおける自動化を可能にする形で、どのように形式化できるか？
• RQ2 特に称賛を含む感情は、徳目的特徴の習得において果たす役割は何か？ そして、それらはどのように計算的にモデリングできるか？
• RQ3 単なる孤立した行動を超えて、複雑な性格的傾向の学習をどのように形式化できるか？
• RQ4 義務論的および結果主義的推論を支援する認知論理式が、学習を通じて徳目倫理をもサポートできるか？
• RQ5 模範的人物とその道徳的立場が時間とともに変化する動的な性質を表現するための形式的メカニズムは何か？

主な発見

• 本稿は、認知論理式内に例示主義的徳目倫理（Vz）を形式化し、Vzfとして実現することで、機械による徳目的行動に関する推論を可能にした。
• 称賛のような感情は、徳目的特徴の学習を引き起こすフラuentとして形式的にモデル化され、OCCモデルに基づく明確な定義が与えられた。
• 時間的およびエージェントにわたる総利益の計算を可能にする利益ベースのフレームワークを確立し、徳目倫理の文脈内での結果主義的評価を可能にした。
• 信念と特徴の動的更新をサポートする形式化により、模範的人物と道徳的理解の進化を反映した。
• 義務論的および結果主義的推論を既にサポートする論理式が、徳目倫理の形式化と自動化にも応用可能であることが示された。
• 本研究は、学習と感情に根ざすことで、性格に基づく倫理が計算的に実行可能であることを示し、道徳的AIへの徳目倫理の統合に基盤を提供した。