[論文レビュー] Towards Moral Autonomous Systems

Vicky Charisi, Louise A. Dennis+7 more|arXiv (Cornell University)|Mar 14, 2017

Ethics and Social Impacts of AI参考文献 48被引用数 47

ひとこと要約

この論文は、自律システムにおける倫理的行動の実装という工学的課題に焦点を当て、検証可能性、透明性、責任の所在、意図的な悪用の防止を扱う。倫理的AIは、哲学的・工学的分野の協働によって実現可能であり、倫理的行動が検証可能で説明可能であり、悪意ある使用に対して耐性を持つように設計されるべきであると提言する。

ABSTRACT

Both the ethics of autonomous systems and the problems of their technical implementation have by now been studied in some detail. Less attention has been given to the areas in which these two separate concerns meet. This paper, written by both philosophers and engineers of autonomous systems, addresses a number of issues in machine ethics that are located at precisely the intersection between ethics and engineering. We first discuss the main challenges which, in our view, machine ethics posses to moral philosophy. We them consider different approaches towards the conceptual design of autonomous systems and their implications on the ethics implementation in such systems. Then we examine problematic areas regarding the specification and verification of ethical behavior in autonomous systems, particularly with a view towards the requirements of future legislation. We discuss transparency and accountability issues that will be crucial for any future wide deployment of autonomous systems in society. Finally we consider the, often overlooked, possibility of intentional misuse of AI systems and the possible dangers arising out of deliberately unethical design, implementation, and use of autonomous robots.

研究の動機と目的

• 道徳的哲学と工学の間のギャップを埋めるために、自律システムに倫理的行動をどのように実装できるかを検討すること。
• 将来的な法的・社会的要件を想定した場合に、AIシステムにおける倫理的行動の明示的規定と検証の課題を検討すること。
• ステークホルダーの信頼を確保するための透明性と責任の所在の重要性を強調すること。
• 意図的なAIシステムの悪用、特に意図的に非倫理的な設計や展開を行うリスクを調査すること。
• 文化的・社会的バイアス、特にAI倫理設計における「文化的帝国主義」のリスクを検討すること。

提案手法

• 倫理的推論をエンコードする適性を検討するために、記号的AIとソフトAIの2つの主要なAI実装ファミリーを分析すること。
• 人間の倫理が内的な道徳的思索に由来するのに対し、AIにおける倫理的行動は設計によって外部的動機付けを受けるべきであると提言すること。
• システム運用中に倫理的行動が指定されたパラメータ内に保たれるように、検証技術の重要性を強調すること。
• 設計者、利用者、規制当局といったステークホルダーの視点を倫理的設計プロセスに統合し、社会的価値観との整合性を確保すること。
• 倫理的AIシステムにおける故障モードを検討し、倫理的検証が不具合後の分析と責任の所在にどのように寄与するかを調査すること。
• サイバー犯罪者、終末論的カルト、非倫理的研究者といった悪意ある行動者像を特定することで、悪用リスクに対処すること。

実験結果

リサーチクエスチョン

• RQ1 将来的な法的・社会的基準を満たすために、自律システムにおける倫理的行動を形式的に規定・検証する方法は何か？
• RQ2 記号的AIとソフトAIの両アプローチにおける倫理的推論の実装に、どのような主な相違点があるか？
• RQ3 ステークホルダーの信頼を確保するために、透明性と責任の所在をAIシステムにどのように組み込むことができるか？
• RQ4 倫理的に設計されたAIシステムの意図的悪用のリスクは何か、そしてそれらをどのように軽減できるか？
• RQ5 AI倫理設計における文化的バイアスが、ある社会の価値観を他の社会に強制するリスクを生じさせ、その影響は何か？

主な発見

• AIにおける倫理的行動は、人間が持つ内的な道徳的思索能力に欠けるため、外部的動機付けによって設計されなければならない。
• 倫理的行動の検証は不可欠だが、特に曖昧で現実的状況に満ちた文脈で運用される場合に、極めて複雑である。
• 設計者、利用者、規制当局の信頼を維持するためには、透明性と責任の所在が不可欠である。
• 犯罪者、過激主義者、非倫理的研究者によるAIシステムの意図的悪用は、重大かつしばしば軽視されがちな脅威である。
• AI倫理設計における文化的帝国主義のリスクは、多様なグローバルな人口に支配的価値観を強制し、倫理的包摂性を損なう可能性がある。
• 倫理的ルールに従っているとしても、明示的でない、あるいは予測不可能な行動を示す可能性がある、倫理的AIシステムが存在する。