[論文レビュー] Responses to a Critique of Artificial Moral Agents

Adam Poulsen, Michael Anderson+6 more|arXiv (Cornell University)|Mar 17, 2019

Ethics and Social Impacts of AI参考文献 39被引用数 6

ひとこと要約

この論文は、ヴァン・ウィンスバーゲとロビンズ（2018）による人工道徳的エージェント（AMAs）の批判に応えるものであり、AMAsの開発を正当化する六つの根拠——避けがたい性、被害防止、公共の信頼、悪用防止、優れた道徳的推論、人間の道徳のより深い理解——を擁護する。共著者たちは、機械倫理学分野における多様な視点を代表しており、すべての研究者が同じ動機を持つわけではないが、AMAsの科学的考察は、批判が提起する懸念にもかかわらず、極めて価値があると主張する。

ABSTRACT

The field of machine ethics is concerned with the question of how to embed ethical behaviors, or a means to determine ethical behaviors, into artificial intelligence (AI) systems. The goal is to produce artificial moral agents (AMAs) that are either implicitly ethical (designed to avoid unethical consequences) or explicitly ethical (designed to behave ethically). Van Wynsberghe and Robbins' (2018) paper Critiquing the Reasons for Making Artificial Moral Agents critically addresses the reasons offered by machine ethicists for pursuing AMA research; this paper, co-authored by machine ethicists and commentators, aims to contribute to the machine ethics conversation by responding to that critique. The reasons for developing AMAs discussed in van Wynsberghe and Robbins (2018) are: it is inevitable that they will be developed; the prevention of harm; the necessity for public trust; the prevention of immoral use; such machines are better moral reasoners than humans, and building these machines would lead to a better understanding of human morality. In this paper, each co-author addresses those reasons in turn. In so doing, this paper demonstrates that the reasons critiqued are not shared by all co-authors; each machine ethicist has their own reasons for researching AMAs. But while we express a diverse range of views on each of the six reasons in van Wynsberghe and Robbins' critique, we nevertheless share the opinion that the scientific study of AMAs has considerable value.

研究の動機と目的

• ヴァン・ウィンスバーゲとロビンズ（2018）による人工道徳的エージェント（AMAs）の批判で指摘された六つの根拠に対して、それらを反論・是正すること。
• 機械倫理学者たちはAMA研究に対して多様な動機を持っていると明確にし、一元的で単一の根拠に基づくという仮定に反すること。
• AMAsの実現可能性や望ましさに関する懸念にもかかわらず、人工道徳的エージェントの研究が科学的・倫理的に価値を持つことを再確認すること。
• 著名な批判に対する多作者・多分野的対応を通じて、機械倫理学分野の継続的議論に貢献すること。
• AMAsの開発が単一の正当化によって駆動されているのではなく、多様な倫理的・科学的根拠に基づく動機によって支えられていることを示すこと。

提案手法

• 各共著者が、ヴァン・ウィンスバーゲとロビンズ（2018）が批判した六つの根拠それぞれに対して、独自の立場から個別に反論する。
• 反論は、各著者が自らの学術的・倫理的視点から同一の六つの根拠を論じる、位置付け論文のシリーズ形式をとる。
• 研究手法は技術的実装ではなく、哲学的・倫理的推論に重きを置き、概念的明確化と正当化に焦点を当てる。
• 人工知能、ロボット工学、心の哲学、人間-コンピュータインタラクションの原則を援用して、各立場を擁護する。
• 論文は、機械倫理学コミュニティ内での動機の多様性を強調するために、共同執筆形式を採用している。
• AMAsの統一理論を提唱するのではなく、倫理的推論と研究目的における多様性（多様論的アプローチ）を強調する。

実験結果

リサーチクエスチョン

• RQ1 AMAsの実現可能性や倫理的含意に関する懸念があるにもかかわらず、なぜ人工道徳的エージェントを開発すべきなのか？
• RQ2 被害防止や公共の信頼といったAMAs開発の根拠が、批判的検証を経てもどの程度正当化されるのか？
• RQ3 人工道徳的エージェントは人間よりも優れた道徳的推論を行うことができるのか？その主張を支持または反証する証拠は何か？
• RQ4 AMAsの科学的考察が、人間の道徳の理解をどのように深めるのか？
• RQ5 公共の信頼は、AMAsの開発と導入において果たす役割は何か？また、自律性と責任のバランスをどのように倫理的にとるのか？

主な発見

• 著者らは、人工道徳的エージェントの開発に一元的で統一された根拠があるという考えを明確に否定し、研究者間で動機が多様であると確認する。
• AMAsの科学的考察は、それが避けがたいものであるか、道徳的強化のための道具であるかに関わらず、価値があるとされる。
• ヴァン・ウィンスバーゲとロビンズ（2018）の批判は重要であると認めつつも、著者らは、機械倫理学コミュニティ内の動機の多様性を誤って解釈していると主張する。
• 一部のAMAs開発根拠が議論の余地があるとしても、AMAsの総合的な研究は科学的・倫理的に正当化可能であると示している。
• 反論は、AMAsが機械上の道徳的推論、さらには人間の倫理的認知の理解を深めるための道具として機能しうることを確認する。
• 著者らは、機械倫理学分野は多様な動機によって恩恵を受けており、このような多様性は、AMA研究の正当性を損なうものではなく、むしろ強化すると結論づける。