[論文レビュー] The Punishment Gap: The Infeasible Public Attribution of Punishment to AI and Robots

Gabriel Lima, Meeyoung Cha+2 more|arXiv (Cornell University)|Mar 13, 2020

Ethics and Social Impacts of AI参考文献 70被引用数 5

ひとこと要約

本研究は、AI やロボットに対する処罰の公的認識を調査し、『処罰格差』—つまり、人々が意図的・自立的・財産的状態を否定しているにもかかわらず、自動化されたエージェントに対して責任と処罰を帰属させること—を明らかにした。これは、処罰の報復的・抑止的機能を損なうものである。本研究では、3,315名の参加者を対象としたアンケート調査と、米国における人種的・文化的に代表的な244名のサンプルを用いて、一般大衆がAIに対して処罰を不一致に帰属させることを示し、自律システムに関する法的・社会的推論における重要な乖離を浮き彫りにした。

ABSTRACT

This paper revisits the debate around the legal personhood of AI and robots, which has been highly sensitive yet important in the face of broad adoption of autonomous and self-learning systems. We conducted a survey ($N$=3,315) to understand lay people's perceptions of this topic and analyzed how they would assign responsibility, awareness, and punishment to AI, robots, humans, and various entities that could be held liable under existing doctrines. Even though people did not recognize any mental state for automated agents, they still attributed punishment and responsibility to these entities. While the participants mostly agreed AI systems could be reformed given punishment, they did not believe such punishment would achieve its retributive and deterrence functions. Moreover, participants were also unwilling to grant automated agents essential punishment preconditions, namely physical independence or assets. We term this contradiction the punishment gap. We also observe the same punishment gap on a demographically representative sample of U.S. residents ($N$=244). We discuss implications of these findings for how legal and social decisions could influence how the public attributes responsibility and punishment to automated agents.

研究の動機と目的

• AI やロボットに対する処罰と責任の帰属に関する一般大衆の認識を検討すること。
• 一般大衆がAIの処罰が報復的または抑止的機能を果たせるかどうかを検討すること。
• 一般大衆が処罰の前提的条件（物理的自立性や財産所有など）を自動化エージェントに帰属するかどうかを評価すること。
• これらの認識が、AI責任に関する法的理論および社会的受容性に与える影響を検討すること。

提案手法

• N = 3,315名の参加者を対象とした大規模なアンケート調査を実施し、AI、ロボット、人間の責任、認識、処罰に関する認識を評価した。
• 処罰の正当性と機能的有効性に注目し、人間、AI、ロボットの各エージェント間での比較的帰属パターンを分析した。
• 一般性の妥当性を検証するため、N = 244名の文化的・人種的に代表的な米国サンプルを用いて、研究結果を再現した。
• シナリオベースの質問を用いて、参加者がAIの処罰が抑止や報復に効果的であると信じているかどうかを評価した。
• AI やロボットに物理的自律性や資産所有といった処罰の前提条件を帰属しているかどうかを検討した。
• 統計的分析を用いて、人間、AI、ロボットの各エージェント間での回答を比較し、道徳的・法的推論における一貫性の欠如を同定した。

実験結果

リサーチクエスチョン

• RQ1 一般大衆は、AI やロボットに心的状態がないと認めながらも、それらに対して処罰と責任を帰属させるか？
• RQ2 一般大衆の認識において、AIへの処罰が報復的または抑止的機能を果たせるか？
• RQ3 人々は、AIシステムに処罰に必要な物理的自立性や資産を有すると信じているか？
• RQ4 異なる人口統計的グループ間で、自動化エージェントに対する処罰の前提条件の帰属が一貫しているか？
• RQ5 一般大衆のAI処罰に関する認識は、既存の責任に関する法的理論とどのように比較できるか？

主な発見

• 参加者は、これらのエージェントに心的状態がないと認めながらも、AI やロボットに対して処罰と責任を帰属させた。
• 処罰を帰属させたにもかかわらず、参加者はそれが報復的または抑止的機能を果たすとは信じていなかった。
• 一般大衆は、AIシステムに処罰に不可欠な前提条件（物理的自立性や資産）を授与することを拒んできた。
• 文化的・人種的に代表的な244名の米国サンプルでも、同じ『処罰格差』が観察され、研究結果の堅牢性が確認された。
• 参加者は、AIシステムに処罰を施すことで是正が可能だと信じていたが、これは処罰の機能的要件と一致しなかった。
• 処罰を帰属させながらも、処罰の基礎的条件を否定するという矛盾は、AI責任に関する一般大衆の推論における体系的不整合を定義づけている。