[論文レビュー] A Computational Model of Commonsense Moral Decision Making

Richard Kim, Max Kleiman‐Weiner+5 more|arXiv (Cornell University)|Jan 12, 2018

Psychology of Moral and Emotional Judgment参考文献 18被引用数 8

ひとこと要約

本稿では、抽象的な道徳次元を効用重みとして用い、道徳的ジレンマにおける疎でノイズの多い人間の判断から、個々のおよび集団の道徳的原則を推定する階層ベイズ計算モデルを提案する。Moral Machineデータセットに適用したところ、モデルは人間の意思決定を正確に予測し、反応時間によって認知的コストを捉えることができ、自律走行車両における解釈可能で学習可能なAIの道徳を提供する。

ABSTRACT

We introduce a new computational model of moral decision making, drawing on a recent theory of commonsense moral learning via social dynamics. Our model describes moral dilemmas as a utility function that computes trade-offs in values over abstract moral dimensions, which provide interpretable parameter values when implemented in machine-led ethical decision-making. Moreover, characterizing the social structures of individuals and groups as a hierarchical Bayesian model, we show that a useful description of an individual's moral values - as well as a group's shared values - can be inferred from a limited amount of observed data. Finally, we apply and evaluate our approach to data from the Moral Machine, a web application that collects human judgments on moral dilemmas involving autonomous vehicles.

研究の動機と目的

• 道徳的ジレンマにおける倫理的妥協を人々がどのように解決するかを説明する、計算的に解釈可能な人間の道徳的意思決定のモデルを構築すること。
• 階層ベイズ推論を用いて、限られた観察データから個々の道徳的価値と集団の規範を推定すること。
• Moral Machineウェブ実験からの実世界データを用いて、モデルの予測能力を検証すること。
• 反応時間の観点から、道徳的推論における認知的コストをどのように反映できるかを検討し、モデルの解釈可能性を高めること。
• 社会的相互作用と疎なフィードバックを通じて人間と同様の道徳的価値を学習するAIシステムの基盤を築くこと。

提案手法

• モデルは、道徳的ジレンマを抽象的な道徳次元（例：'家族', '報復') における効用関数として表現し、重みを道徳的原則として扱う。
• 個々の道徳的好みは、集団レベルの事前分布から抽出される確率的変数としてモデル化され、階層ベイズ推論が可能になる。
• 階層ベイズフレームワークを用いて、Moral Machineデータセットにおける限られた人間の判断から、個々の道徳的原則と集団の規範を推定する。
• モデルは反応時間を意思決定の確実性の代理として用い、曖昧なジレンマにおける認知的コストを反映する。
• 特徴マッピング $F: \Theta \rightarrow \Lambda$ は、観察可能なシナリオ特徴を抽象的な道徳次元に変換する。
• モデルは、Moral Machineからの3000万件の応答を用いて訓練および評価され、予測精度と認知的一致性がテストされた。

実験結果

リサーチクエスチョン

• RQ1 疎でノイズの多い人間の判断から、計算モデルがどのように道徳的ジレンマにおける個々の道徳的原則を推定できるか。
• RQ2 階層ベイズ推論が、個々の道徳的好みから集団の規範をどれほど正確に回復できるか。
• RQ3 道徳的意思決定における反応時間は、意思決定の確実性および道徳的推論における認知的コストの信頼できる代理指標として機能するか。
• RQ4 ベースラインモデルと比較して、モデルは自律走行車両の道徳的ジレンマにおける人間の判断をどれほどよく予測できるか。
• RQ5 モデルは異なる道徳的文脈に一般化できるか。これは、AIにおける移譲可能な道徳的学習の可能性を示唆する。

主な発見

• モデルは、Moral Machineの道徳的ジレンマにおける人間の判断を、限られたデータからの強力な一般化を示しながら高い精度で予測できた。
• 反応時間は意思決定の確実性と相関しており、長時間の反応は低い自信を示し、曖昧な妥協を解消する際の高い認知的コストを示している。
• モデルは意思決定行動における直感的なパターンを捉えており、明確な妥協があるジレンマでは、より速く一貫性のある反応が得られている。
• 階層ベイズ推論により、疎なデータから迅速かつ正確に個々の道徳的原則と集団の規範を推定できる。
• モデルの構造により解釈可能性が確保されており、道徳的原則が重み付きの抽象的次元として表現されることで、AI意思決定の透明性が向上する。
• このフレームワークは、将来、ドリフト拡散モデルのような自信や誤りのモデルと統合可能であり、人間行動からの推論をさらに高めることが可能である。