[論文レビュー] A Voting-Based System for Ethical Decision Making

Ritesh Noothigattu, Snehalkumar S. Gaikwad+5 more|arXiv (Cornell University)|Sep 20, 2017

Ethics and Social Impacts of AI被引用数 19

ひとこと要約

本論文は、130万件のペアワイズ比較から得られた社会的好みを学習することで、自律走行車両における倫理的意思決定のための投票ベースのシステムを提案する。計算社会選択理論を用いて、置換過程の扱いやすいモデルを通じて個々の好みを集約し、集団的意思決定を生成する。これにより、一人当たりのデータが限られた状況下でも、倫理的選択を高い精度で予測可能である。

ABSTRACT

We present a general approach to automating ethical decisions, drawing on machine learning and computational social choice. In a nutshell, we propose to learn a model of societal preferences, and, when faced with a specific ethical dilemma at runtime, efficiently aggregate those preferences to identify a desirable choice. We provide a concrete algorithm that instantiates our approach; some of its crucial steps are informed by a new theory of swap-dominance efficient voting rules. Finally, we implement and evaluate a system for ethical decision making in the autonomous vehicle domain, using preference data collected from 1.3 million people through the Moral Machine website.

研究の動機と目的

• AIにおける形式的な倫理的原則の欠如に応えるために、社会的好みの集約を実用的代替手段として提供すること。
• 現実世界の人間の判断を活用して、自律走行車両におけるスケーラブルな倫理的意思決定フレームワークを構築すること。
• 技術的・法的制約が失敗した場合に、大規模な人間からの入力をもとに集団的好みを導出し、実行時における倫理的意思決定を可能にすること。
• 普遍的に合意された原則が存在しない状況下で、集団的な社会的好みが倫理的規範の信頼できる近似として機能しうることを示すこと。

提案手法

• Moral Machineウェブサイトを通じて、130万人のユーザーからペアワイズの倫理的判断を収集し、多様な社会的好みを表現する。
• 連続的および離散的特徴をサポートする一般化されたランダムユーティリティモデル（透明性モデル）を用いて、個々の好みをモデル化する。
• 最大尤度推定のための凸最適化フレームワークを用いて、個々の好みモデルを1つの集団モデルに要約する。
• 実行時における代替案の有限部分集合について、集団モデルに投票ルールを適用して好みを集約する。
• 公平性と一貫性を確保するため、スワップ優位性効率的投票ルールの理論を採用する。
• 実世界のデータを用いてアプローチを検証し、平均1人あたり約14件の比較という限られたデータでも高い予測精度を示した。

実験結果

リサーチクエスチョン

• RQ1 普遍的に合意された倫理的原則が存在しない状況下で、社会的好みを信頼性高く集約し、自律走行車両における倫理的意思決定に活かすことは可能か？
• RQ2 大規模な人間の判断を効率的にモデル化・要約するにはどうすればよいか？ これにより、リアルタイムでの倫理的意思決定が可能になるか？
• RQ3 どのような投票ルールと集約技術が、多様な人間の好みから導かれる集団的倫理的意思決定において公平性と一貫性を保証するか？
• RQ4 一人当たりのペアワイズ比較が限られた状況下でも、1つの集団モデルが何百万もの個人の好みをどれくらい正確に表現できるか？
• RQ5 今後の形式的倫理的または法的原則の統合を考慮に入れながらも、意思決定パイプラインの根幹を損なわずに、倫理的意思決定システムを強靭かつスケーラブルに設計するにはどうすればよいか？

主な発見

• 1人あたり約14件のペアワイズ比較で学習されたモデルが、相関する投票者パラメータ分布のおかげで、高い性能を示した。
• K > 1 個の透明性モデルの混合を用いることで、単一モデルよりも精度が向上する可能性があるが、計算複雑性の増加を伴う。
• 実証的結果から、個々の回答のノイズが要約と集約の段階でほとんど相殺され、集団モデルの堅牢性が裏付けられた。
• 倫理的または法的原則が利用できない場合には、社会的コンセンサスにフォールバックできるため、あらゆる状況で意思決定能力を維持できる。
• アーキテクチャはモジュール型かつ拡張可能であり、今後の形式的倫理的または法的ルールの統合を妨げずに可能である。
• 計算効率が高く、スケーラブルであり、凸最適化に基づく学習手順により、リアルタイム意思決定が可能である。