[論文レビュー] Human-centered mechanism design with Democratic AI

Raphaël Koster, Jan Balaguer+9 more|arXiv (Cornell University)|Jan 27, 2022

Experimental Behavioral Economics Studies被引用数 5

ひとこと要約

この論文では、強化学習を用いて人間の過半数が好む社会的メカニズムを設計する、人間を含めたループ型メカニズム設計フレームワーク「ドンクラティックAI」を紹介する。オンライン投資ゲームにおいて、AIが設計したメカニズムは、富の格差を低減させ、無料乗車者を処罰することで、過半数の支持を得る（多数支持テストで60％の得票）人間が設計したメカニズムを上回った。

ABSTRACT

Building artificial intelligence (AI) that aligns with human values is an unsolved problem. Here, we developed a human-in-the-loop research pipeline called Democratic AI, in which reinforcement learning is used to design a social mechanism that humans prefer by majority. A large group of humans played an online investment game that involved deciding whether to keep a monetary endowment or to share it with others for collective benefit. Shared revenue was returned to players under two different redistribution mechanisms, one designed by the AI and the other by humans. The AI discovered a mechanism that redressed initial wealth imbalance, sanctioned free riders, and successfully won the majority vote. By optimizing for human preferences, Democratic AI may be a promising method for value-aligned policy innovation.

研究の動機と目的

• 人間中心のメカニズム設計アプローチを通じて、AIと人間の価値を一致させる課題に取り組む。
• 人間の好みが直接AI生成ポリシー・メカニズムに影響を与えるスケーラブルなパイプラインを開発する。
• AIが現実の社会的好みの設定において、人間が設計したメカニズムを上回れるかをテストする。
• 集団意思決定における価値に整合した政策イノベーションのためのAIの可能性を探る。

提案手法

• 参加者を対象とした大規模なオンライン投資ゲームを通じて、金銭的配分のためのメカニズムを評価した。
• 人間が設計したメカニズムと、強化学習を用いて生成されたAIが設計したメカニズムの2つを比較した。
• AIは、繰り返し実施された試行における過半数投票の結果から得られる報酬信号を用いて、人間の好みを最適化した。
• 強化学習エージェントは、人間参加者との反復的相互作用を通じて、公平性、効率性、無料乗車者の抑止のバランスを学習した。
• 人間を含めたループ型フィードバックループにより、AIはリアルタイムの好みデータに基づいてメカニズムを適応させることができた。
• 最終的なメカニズムは、AIが設計したものと人間が設計したものの間で人間の好みを決定する過半数投票を通じて評価された。

実験結果

リサーチクエスチョン

• RQ1 AIシステムは、人間の過半数が好む社会的メカニズムを学習できるか？
• RQ2 公平性と効率性の観点から、AIが生成したメカニズムと人間が設計したメカニズムはどのように比較されるか？
• RQ3 集団的状況において、再配分メカニズムのどの具体的な特徴が人間の好みを高めるか？
• RQ4 強化学習は、社会的メカニズムにおける複雑で多次元的な人間の価値を効果的に最適化できるか？

主な発見

• AIが設計したメカニズムは、直接的な好み比較において過半数の支持を得ており（60％）、人間が設計したメカニズムを上回った。
• AIのメカニズムは、的確な再配分により初期の富の格差を効果的に低減した。
• メカニズムには、無料乗車者を効果的に処罰する機能が含まれており、全体の協力度が向上した。
• AIが生成したメカニズムは、人間が設計した代替案よりも高い公平性の認識と集団的利益を達成した。