[論文レビュー] Humans' Assessment of Robots as Moral Regulators: Importance of Perceived Fairness and Legitimacy

Boyoung Kim, Elizabeth Phillips|arXiv (Cornell University)|Oct 10, 2021

Psychology of Moral and Emotional Judgment参考文献 13被引用数 6

ひとこと要約

本稿では、ロボットが公平で正当と感じられれば、道徳的規範の監視者として効果的であると提唱している。特に、割合に応じた罰則が、正当性と従順性を高める。著者らは、人間のフィードバックに基づき動的に罰則意思決定を更新することで、多様な社会的規範にわたる公平性を確保する、概念的枠組みを提示する。

ABSTRACT

Previous research has shown that the fairness and the legitimacy of a moral decision-maker are important for people's acceptance of and compliance with the decision-maker. As technology rapidly advances, there have been increasing hopes and concerns about building artificially intelligent entities that are designed to intervene against norm violations. However, it is unclear how people would perceive artificial moral regulators that impose punishment on human wrongdoers. Grounded in theories of psychology and law, we predict that the perceived fairness of punishment imposed by a robot would increase the legitimacy of the robot functioning as a moral regulator, which would in turn, increase people's willingness to accept and comply with the robot's decisions. We close with a conceptual framework for building a robot moral regulator that successfully can regulate norm violations.

研究の動機と目的

• 認識された公平性と正当性が、人間のロボットによる制裁に従順になる意思にどのように影響するかを調査すること。
• AIバイアスの懸念を軽減するため、ロボットの意思決定を報復的正義と割合の原則に基づかせること。
• 多様な社会的集団において、違反の深刻さに応じた罰則の強さを調整できる概念的枠組みを開発すること。
• 第三者のフィードバックが、ロボットの道徳的規範監視者の公平性と正当性をどのように調整するかを検討すること。
• AI、心理学、法制度の分野のギャップを埋め、人間が受け入れられる自律的道徳的規範監視者を設計すること。

提案手法

• 第三者による罰則の公平性評価に基づき、ロボットが比例性推定システムを更新するフィードバック駆動型フレームワークを提唱する。
• 報復的正義理論における比例性の原則を応用し、違反の深刻さに応じた罰則の強さを一致させる。
• 人間の被験者（第三者）に、違反の深刻さに対して罰則が強すぎる、弱すぎる、適切かを評価してもらう。
• 時間の経過とともに変化する集団の規範や文化的文脈を反映できるように、罰則意思決定を動的に調整するシステムを設計する。
• 心理的理論（例：タイラーの手続き的正義理論）をロボット意思決定アーキテクチャに統合する。
• ロボット道徳的規範監視者を、繰り返し、一貫性があり、比例的な介入によって公平性の証拠を蓄積するシステムとしてモデル化する。

実験結果

リサーチクエスチョン

• RQ1 ロボットによる制裁の認識された公平性は、人間がロボットを道徳的規範監視者として正当と感じる度合いにどのように影響するか？
• RQ2 罰則の比例性と人間のロボットの意思決定に従順になる意思の間には、どのような関係があるか？
• RQ3 異なる社会的集団が異なる規範基準を持つ場合、ロボット道徳的規範監視者はどのように罰則意思決定を適応させるか？
• RQ4 第三者のフィードバックが、ロボット道徳的規範監視の認識された公平性と正当性をどの程度向上させるか？
• RQ5 どのような状況（例：違反の深刻さ）において、過剰な罰則や不十分な罰則が人間の観察者に公平と感じられるか？

主な発見

• 深刻な規範違反の場合は、参加者は過剰な罰則を、不十分な罰則よりも公平だと感じた。これは、被害が大きい場合には厳しい罰則がより正当化されると示唆している。
• 軽微な違反の場合は、過剰な罰則と不十分な罰則の間で、公平性の認識に有意な差がなかった。これは、罰則強度のわずかな差異が、あまり重要ではないことを示している。
• 比例的な罰則を繰り返し経験することで、参加者のロボットが公平で正当な道徳的規範監視者であると感じる度合いが向上した。
• 罰則の認識された公平性が、罰則の比例性とロボットの意思決定に従順になる意思の関係を媒介していた。
• 第三者の被験者によるフィードバックループにより、ロボットの罰則システムが適切にキャリブレーションされ、一人の立場（例：被害者や加害者）に依存するのを減らすことができた。
• 概念的枠組みにより、集団固有の規範に応じた罰則の動的適応が可能となり、公平性が文脈依存的で文化的に多様であることを認識した。