[論文レビュー] AI virtues -- The missing link in putting AI ethics into practice

Thilo Hagendorff|arXiv (Cornell University)|Nov 25, 2020

Psychology of Moral and Emotional Judgment参考文献 73被引用数 8

ひとこと要約

この論文は、AI倫理の原則とその実装の間のギャップを埋めるために、徳目倫理の枠組みを提唱する。公正、誠実、責任、思いやりの4つの核心的徳目に加え、限界的倫理性（bounded ethicality）に対処するための2つの第二級の徳目、慎重さ（prudence）と忍耐力（fortitude）を導入する。組織的な戦略を通じてこれらの徳目を育成する方法を提示し、原則中心の倫理とは対照的に、心理的根拠に基づいた実行可能な代替案を提供する。

ABSTRACT

Several seminal ethics initiatives have stipulated sets of principles and standards for good technology development in the AI sector. However, widespread criticism has pointed out a lack of practical realization of these principles. Following that, AI ethics underwent a practical turn, but without deviating from the principled approach and the many shortcomings associated with it. This paper proposes a different approach. It defines four basic AI virtues, namely justice, honesty, responsibility and care, all of which represent specific motivational settings that constitute the very precondition for ethical decision making in the AI field. Moreover, it defines two second-order AI virtues, prudence and fortitude, that bolster achieving the basic virtues by helping with overcoming bounded ethicality or the many hidden psychological forces that impair ethical decision making and that are hitherto disregarded in AI ethics. Lastly, the paper describes measures for successfully cultivating the mentioned virtues in organizations dealing with AI research and development.

研究の動機と目的

• AI倫理の原則とその現実世界での実装の間の持続的ギャップに対処すること。
• AI開発における倫理的意思決定を損なう心理的障壁（例：限界的倫理性）を特定すること。
• 原則中心のアプローチとは対照的に、実務的代替案として徳目倫理に基づく枠組みを提唱すること。
• AI実務家における倫理的行動を動機づけ・維持するための核心的徳目と第二級の徳目を定義すること。
• AI研究開発組織内でのこれらの徳目の育成に向けた実行可能な措置を提供すること。

提案手法

• 公正、誠実、責任、思いやりの4つの基盤的AI徳目を定義し、それぞれが倫理的行動の異なる動機づけの方向性を表す。
• 認知的・動機的障壁を克服するのを助ける2つの第二級の徳目、慎重さ（prudence）と忍耐力（fortitude）を導入する。
• 徳目倫理理論を基に、AI倫理をルール遵守ではなく、人格形成として再定式化する。
• 倫理的訓練、自己内省的実践、組織文化構築などの組織的メカニズムを提案し、徳目をAIチームに根付かせる。
• 限界的倫理性や認知バイアスといった心理的現象を分析し、AI文脈における倫理的判断を損なう要因を明らかにする。
• 徳目を静的ルールではなく、文脈に応じて動的に適応する傾向として位置づけ、柔軟な倫理的推論を可能にする。

実験結果

リサーチクエスチョン

• RQ1 AI倫理は、抽象的原則にとどまらず、現実の開発現場でどのように実装可能になるか。
• RQ2 AI専門家における倫理的意思決定を損なう心理的メカニズムは何か。それらはどのように是正できるか。
• RQ3 AI研究開発における倫理的行動を保証するために、特に重要な具体的な徳目は何か。
• RQ4 組織はどのようにしてAIチーム内の倫理的徳目を体系的に育成できるか。
• RQ5 慎重さ（prudence）や忍耐力（fortitude）といった第二級の徳目は、認知的・組織的圧力下でも倫理的行動を維持するために果たす役割は何か。

主な発見

• 論文は、公正、誠実、責任、思いやりを、AI開発における倫理的行動の動機づけの基盤をなす重要な徳目として特定する。
• 慎重さ（prudence）と忍耐力（fortitude）は、限界的倫理性や心理的盲点に対処する第二級の徳目として提案される。
• この枠組みは、倫理的原則への準拠から、AI実務家における倫理的人格の育成へと焦点を移す。
• 自己内省的実践や倫理的訓練といった組織的戦略が、徳目をAIチームの文化に根付かせるために推奨される。
• このアプローチは、動機付けや意識の欠如により実務で失敗しやすい原則中心の倫理とは対照的に、心理的根拠に基づいた実行可能な代替案を提供する。
• 論文は、AIにおける倫理的行動が単にルールの遵守に依存するのではなく、制度的設計によって形作られる内面化された徳目に依存することを示している。