[論文レビュー] I Need Your Advice... Human Perceptions of Robot Moral Advising Behaviors

Nichole D. Starr, Bertram F. Malle+1 more|arXiv (Cornell University)|Apr 14, 2021

Psychology of Moral and Emotional Judgment被引用数 4

ひとこと要約

本研究は、ロボットが個人の命を犠牲にして多数の命を救うことを推奨する場合、人間がそのロボットの道徳的助言に対してどのように評価するかを調査する。結果から、人間とロボットの両方が、個人の選択とは異なるが共通の利益を優先する助言を行う場合、より肯定的に評価されることが明らかになった。これは、人間-ロボットインタラクションにおける倫理的に整合した自律的エージェントの設計に向けた重要な原則を示している。

ABSTRACT

Due to their unique persuasive power, language-capable robots must be able to both act in line with human moral norms and clearly and appropriately communicate those norms. These requirements are complicated by the possibility that humans may ascribe blame differently to humans and robots. In this work, we explore how robots should communicate in moral advising scenarios, in which the norms they are expected to follow (in a moral dilemma scenario) may be different from those their advisees are expected to follow. Our results suggest that, in fact, both humans and robots are judged more positively when they provide the advice that favors the common good over an individual's life. These results raise critical new questions regarding people's moral responses to robots and the design of autonomous moral agents.

研究の動機と目的

• 人間の助言者と異なる道徳的基準を持つロボットが道徳的ジレンマにおいて助言を行う際、人々がそのロボットの助言をどのように評価するかを調査すること。
• 人々が、個人の直感的好みとは異なるが共通の利益を重視する行動を推奨するロボットの助言を、より好意的に評価するかどうかを調査すること。
• 道徳的意思決定のシナリオにおいて、人間とロボットの間で非難の割り当てに差が生じるかどうかを検討すること。
• 道徳的コミュニケーションが、自律的エージェントの信頼性や好ましさの認識をどのように形成するかを評価すること。
• 人間-ロボットインタラクションの文脈で、道徳的基準を効果的に伝えることができる倫理的に能力を持つロボットの設計を支援すること。

提案手法

• Trolley Problemを模した道徳的ジレンマに基づくビンネット実験を実施し、参加者がロボットと人間の助言者を評価する。
• 助言者の行動（行動 vs. 不作為）と助言者の身元（ロボット vs. 人間）を操作することで、評価の差を測定する。
• 各シナリオの後、標準化された尺度を用いて信頼性、好ましさ、非難の度合を測定する。
• 助言者タイプと助言内容の違いに応じた反応を分析し、道徳的評価と社会的帰属のパターンを特定する。
• 制御された架空のシナリオを用いて、助言者の身元と助言内容が道徳的判断に与える影響を分離する。
• 参加者の助言および助言者の行動に対する評価の根拠を明らかにするために、定性的データを収集・分析する。

実験結果

リサーチクエスチョン

• RQ1 共通の利益を優先するが個人の命を犠牲にする行動を推奨するロボットの助言に対して、人々はどのように評価するか？
• RQ2 道徳的ジレンマのシナリオにおいて、ロボットの助言者と人間の助言者の評価にどのような差が生じるか？
• RQ3 助言者と助言内容の道徳的基準の一貫性が、信頼性や好ましさの認識に影響を与えるか？
• RQ4 道徳的ジレンマにおいて、行動を推奨する場合と不作為をとる場合の、人間とロボットの助言者に対する非難の割り当てにどのような違いが生じるか？
• RQ5 道徳的コミュニケーションは、倫理的意思決定の文脈における自律的エージェントに対する人間の認識をどのように形成するか？

主な発見

• ロボットが1人の命を犠牲にして5人の命を救うよう助言した場合でさえ、その助言が個人の選択とは異なるにもかかわらず、ロボットはより肯定的に評価された。
• 人間とロボットの両方が、共通の利益を重視する行動を推奨した場合に、より好意的に評価された。これは、共通の道徳的評価基準が存在することを示している。
• 参加者たちは、ロボットに対しては不作為のほうが行動よりも非難を多く与えたが、人間の助言者に対しては一貫した傾向が見られなかった。
• 人間の助言者も、自分自身がそのような行動を避ける可能性があるにもかかわらず、共通の利益を重視する助言をした場合、より好ましく信頼できると見なされた。
• 結果から、助言者と推奨される行動との間の道徳的一致性が、助言者の身元に関係なく信頼性の認識を高めることを示唆している。
• 人間とロボットの間で非難のパターンに差が生じていることから、機械的外見のロボットは、特に不作為に関して、異なる道徳的基準で評価されている可能性がある。