[論文レビュー] Using experimental game theory to transit human values to ethical AI

Yijia Wang, Yan Wan+1 more|arXiv (Cornell University)|Nov 16, 2017

Psychology of Moral and Emotional Judgment参考文献 16被引用数 3

ひとこと要約

本論文は、実験的ゲーム理論を用いて人間の道徳的価値、特にカント倫理をAIシステムに抽出・埋め込む計算フレームワークを提案する。これにより、人間の行動データの定量的指標を用いて、AIの道徳的意思決定を可能にする。AIと人間の相互作用を戦略空間と結果空間にモデル化することで、繰り返し囚人のジレンマ実験を用いてAIの道徳的妥当性をテストする方法を示し、Generosity（思いやり）は道徳的に適切であるが、Extortion（圧政）はそうでないことを示している。本手法は、道徳的AI設計のためのきめ細やかで実行可能かつ検証可能な、きつい基準を満たすものである。

ABSTRACT

Knowing the reflection of game theory and ethics, we develop a mathematical representation to bridge the gap between the concepts in moral philosophy (e.g., Kantian and Utilitarian) and AI ethics industry technology standard (e.g., IEEE P7000 standard series for Ethical AI). As an application, we demonstrate how human value can be obtained from the experimental game theory (e.g., trust game experiment) so as to build an ethical AI. Moreover, an approach to test the ethics (rightness or wrongness) of a given AI algorithm by using an iterated Prisoner's Dilemma Game experiment is discussed as an example. Compared with existing mathematical frameworks and testing method on AI ethics technology, the advantages of the proposed approach are analyzed.

研究の動機と目的

• AI行動を人間の価値、特にカント倫理に整合させるための数学的に厳密で、計算可能かつ実験的に検証可能な手法を開発すること。
• カント倫理と功利主義の道徳的哲学と、AI道徳の産業基準（例：IEEE P7000）の間の溝を、統一的な数学的表現によって埋めること。
• 公平性、信頼、利他主義といった人間の価値を、制御された行動実験から定量的に移転し、道徳的AI設計に応用すること。
• 非協力的ゲームにおける結果空間分析を用いて、AIアルゴリズムの道徳的妥当性を実用的でスケーラブルかつ検証可能な方法で評価すること。
• 従来の帰納的で言語的基準に依存するAI道徳基準の限界を克服し、演繹的でデータ駆動的かつ数学的に構造化されたアプローチを導入すること。

提案手法

• 本論文は、AIと人間の相互作用を数学的に表現する：$\mathbf{S}^{a}_{i} \otimes \mathbf{S}^{b}_{j} \rightarrow \mathbf{O}$ ここで $\mathbf{S}^{a}$ と $\mathbf{S}^{b}$ はAIと人間の戦略空間を表し、$\mathbf{O}$ は報酬（例：報酬、コスト、公平性）を表す結果空間である。
• カント的価値は、純粋な合理的選択とは乖離する非功利的で道徳的根拠を持つ行動の成分として定義され、AIの整合性を確保するための制約または目標として結果空間に埋め込まれる。
• 信頼や公平性といった人間の価値は、実験的ゲーム理論データ（例：信頼ゲーム、公共財ゲーム）から抽出され、それらが道徳的AI行動のキャリブレーションに用いられるパラメータとして使用される。
• AIアルゴリズムの道徳的妥当性は、繰り返し囚人のジレンマ（IPD）を用いてテストされる。結果空間を分析することで、AIの行動が公平で搾取的ではないかを評価する。
• 実際の実験得点を、道徳的ベンチマーク（例：Extortionの赤線、Generosityの緑線）と比較するための理論的結果線を用い、公平性と効率性を主な基準とする。
• 従来のモデルとは異なり、本手法は結果空間に明示的にカント的価値を定義することで、計算可能な解を得ており、従来のモデルとは異なり、道徳的意思決定が曖昧なままである。

実験結果

リサーチクエスチョン

• RQ1 カント倫理と功利主義の道徳的哲学を、AI道徳のための単一の計算フレームワークに形式的に統合することは可能か？
• RQ2 実験的ゲーム理論から得た人間の価値を、非協力的状況下で道徳的AI行動をキャリブレートするために信頼性を持って使用できるか？
• RQ3 繰り返しゲームにおける結果空間分析を用いて、特定のAIアルゴリズムの道徳的妥当性を定量的に評価することは可能か？
• RQ4 現在の帰納的で言語的基準に依存するAI道徳基準（例：IEEE P7000）の限界は何か。そして、演繹的でデータ駆動のアプローチによってどのように改善できるか？
• RQ5 信頼ゲームや公共財ゲームからの実験的データを、AIエージェントの道徳的制御パラメータを定義するためにどれだけ活用できるか？

主な発見

• 繰り返し囚人のジレンマにおけるGenerosity戦略は、$\frac{3 - s_{hg}}{3 - s_g} = \frac{1}{3}$ を満たし、AIと人間の両方の得点が最大の3に達する。これは公平性と効率性を示し、道徳的に適切であることを示している。
• Extortion戦略は、$\frac{s_{he} - 1}{s_e - 1} = \frac{1}{3}$ を満たし、人間の最大得点が1.907、AIの得点が3.727に達する。これは不平等な結果を生じるため、道徳的に不適切とされる。
• 非協力的ゲーム（例：信頼ゲーム）における人間被験者の実験データから、公平性、信頼、利他的行動の定量的指標を抽出でき、それらをAI意思決定に埋め込むことができる。
• 本フレームワークは、IEEE P7000のような言語的チェックリストに依存する曖昧さや主観性を克服し、計算可能で検証可能かつ数学的に厳密なAI道徳評価手法を提供する。
• 結果空間に明示的にカント的価値をモデル化することで、AIにおけるカント倫理と功利主義の間の対立を解消し、純粋な利益最大化を越えた道徳的行動を可能にする。
• 本手法はスケーラブルであり、自律走行車両、ドローン、金融エージェントなどの実世界のAIシステムに適用可能であり、行動データを基に道徳的設計を導くことができる。