[論文レビュー] Responsible AI and Its Stakeholders

Gabriel Lima, Meeyoung Cha|arXiv (Cornell University)|Apr 23, 2020

Ethics and Social Impacts of AI参考文献 15被引用数 7

ひとこと要約

この論文は、責任あるAIが人間のステークホルダーにのみ責任を問うのではなく、非難可能性、責任、賠償責任を通じて自律的AIシステム自体が責任を問われるべきだと主張している。AIが道徳的主体ではないとしても、社会的報復的思考と法的イノベーション（例：電子的法的人格）により、AIに責任を帰属させることができ、自律的システムにおける重要な法的・道徳的ギャップを埋められるとする。

ABSTRACT

Responsible Artificial Intelligence (AI) proposes a framework that holds all stakeholders involved in the development of AI to be responsible for their systems. It, however, fails to accommodate the possibility of holding AI responsible per se, which could close some legal and moral gaps concerning the deployment of autonomous and self-learning systems. We discuss three notions of responsibility (i.e., blameworthiness, accountability, and liability) for all stakeholders, including AI, and suggest the roles of jurisdiction and the general public in this matter.

研究の動機と目的

• 自律的かつ自己学習型のAIシステムが人間のステークホルダーに責任を問われることを回避するという法的・道徳的ギャップを解消すること。
• 開発者、利用者、製造業者を超えて、AIが責任の正当な対象として認められるかどうかを調査すること。
• 道徳的主体性を欠くにもかかわらず、非難可能性、責任、賠償責任をAIに帰属させる可能性を検討すること。
• 伝統的な道徳的責任基準を満たさないにもかかわらず、公衆や法的制度がAIに責任を問う意思を持っているかどうかを検討すること。
• AIを人間のアクターの道具としてではなく、直接の責任対象として含めるように、責任あるAIフレームワークを再考すること。

提案手法

• van de Poelら（2012）を理論的基盤として、非難可能性、責任、賠償責任という3つの後向きの責任概念を分析する。
• 非難可能性の5条件（道徳的主体性、因果関係、知識、自由、不正行為）をAIおよび人間のステークホルダーに適用し評価する。
• AIが不正行為に因果関係を有する（例：自律走行車両の事故）ことを根拠に、責任および賠償責任を評価する。
• Uberの歩行者死亡事故における責任問題を事例として取り上げ、現在の法的慣行とその限界を示す。
• AIに電子的法的人格を付与することで賠償責任を帰属可能にする法的・社会的影響を検討する。
• 公衆の認識データと哲学的推論を用いて、AIが主体性を欠えても、社会的報復的思考が非難の帰属を促す可能性を主張する。

実験結果

リサーチクエスチョン

• RQ1 AIが道徳的主体性を欠くにもかかわらず、その行動に対して意味的に非難可能性を問えるか？
• RQ2 AIが行動可能で、結果に因果関係を持つにもかかわらず、その行動に対してどの程度責任を問えるか？
• RQ3 電子的法的人格のようなメカニズムを通じて、AIに賠償責任を帰属させることが法的・倫理的に可能か？
• RQ4 AIが意図を持たないにもかかわらず、公衆の報復的思考がAIを非難の標的と見なす認識に与える影響は何か？
• RQ5 責任枠組みからAIを除外することの、法的・倫理的責任の観点からの影響は何か？

主な発見

• AIは現在、道徳的主体として認められておらず、道徳的主体性や理解といった伝統的な非難可能性の条件を満たせない。
• 道徳的主体性を欠えても、公衆の報復的思考が、有害な結果に因果関係を持つことからAIに非難を帰属させる傾向がある。
• AIと不正行為との因果関係は強く、しばしば明確であるため、責任および賠償責任の重要な条件を満たしている。
• Uberやボルボなどの企業が現在、AIの行動について責任を負っているが、これはイノベーションを抑制するおそれがあり、システム的責任ギャップを解消しない。
• 法的枠組みを改正し、AIに電子的法的人格を付与することで、資産保有や保険による損害賠償が可能になる。
• AIが処罰不能であることを認識しても、公衆がAIに賠償責任を問う意思を持っていることから、社会的にAIを責任対象と見なす傾向が顕著である。