[論文レビュー] Rethinking Trust in Social Robotics

Rachele Carli, Amro Najjar|arXiv (Cornell University)|Sep 14, 2021

Ethics and Social Impacts of AI参考文献 41被引用数 5

ひとこと要約

本論文は、人間-ロボット信頼を最大化すべき目的として捉えるのでなく、文脈に応じて変化し、倫理的に制限された現象として再考すべきであると主張する。信頼性、透明性、人間中心設計に裏付けられた最小限で適切なレベルの信頼を求める移行を提案することで、操作や過剰な信頼のリスクを軽減し、人的な協働を効果的に実現する。

ABSTRACT

In 2018 the European Commission highlighted the demand of a human-centered approach to AI. Such a claim is gaining even more relevance considering technologies specifically designed to directly interact and physically collaborate with human users in the real world. This is notably the case of social robots. The domain of Human-Robot Interaction (HRI) emerged to investigate these issues. "Human-robot trust" has been highlighted as one of the most challenging and intriguing factors influencing HRI. On the one hand, user studies and technical experts underline how trust is a key element to facilitate users' acceptance, consequently increasing the chances to pursue the given task. On the other hand, such a phenomenon raises also ethical and philosophical concerns leading scholars in these domains to argue that humans should not trust robots. However, trust in HRI is not an index of fragility, it is rooted in anthropomorphism, and it is a natural characteristic of every human being. Thus, instead of focusing solely on how to inspire user trust in social robots, this paper argues that what should be investigated is to what extent and for which purpose it is suitable to trust robots. Such an endeavour requires an interdisciplinary approach taking into account (i) technical needs and (ii) psychological implications.

研究の動機と目的

• 社会的ロボットにおけるユーザーの信頼を最大化するという支配的傾向に反論し、倫理的搧動や過剰信頼のリスクを回避する。
• 人間が哲学的警告にもかかわらず、なぜ自然に人間らしくロボットに信頼を寄せてしまうのかを調査する。
• 信頼（心理的状態）と信頼性（客観的で設計可能な性質）を区別し、倫理的なロボット開発をガイドする。
• 『信頼なし＝使用不可』のパラダイムから、機能を確保しつつユーザーの人格的整合性を守る『最小限で十分な信頼』モデルへの移行を提言する。
• 技術的、心理的、倫理的、法的視点の統合的統合を推進し、社会的に受け入れられるロボットの開発を支援する。

提案手法

• 人間の心理学、人類学、認知科学に根ざした多分野的構造としての信頼を分析し、不確実性に対処するための役割を強調する。
• AIシステムへの信頼を否定する哲学的議論（特に偽り、操作、人間の自律性の喪失）を検討する。
• 人間の本質的傾向としての擬人化を導入し、ロボットへの信頼は避けがたいものであるとし、設計責任の必要性を強調する。
• 信頼（主観的で感情的・認知的）と信頼性（客観的で測定可能で設計に基づく）を区別し、後者を技術的・倫理的優先事項として提唱する。
• ロボット設計における信頼最適化から信頼性最適化への移行を提言し、透明性、素材的整合性、制御の強化を重視する。
• EUが提案する人工知能法を含む法的枠組みをロボット開発に統合し、倫理的基準と人権を根拠づける。

実験結果

リサーチクエスチョン

• RQ1 操作や偽りのリスクを鑑みれば、社会的ロボットへの信頼を促すことは倫理的・心理的に正当化されるのか、どの程度正当化されるのか。
• RQ2 哲学的主張にもかかわらず、人間がなぜ自然にロボットに信頼を寄せてしまうのか。この傾向を設計において責任ある形で活用するにはどうすればよいか。
• RQ3 信頼性はどのように客観的に測定され、社会的ロボットに設計的に組み込まれるのか。主観的信頼の認識に依存するのではなく。
• RQ4 ユーザーの自律性や人格的整合性を損なわずに、効果的な人間-ロボット協働を実現するために必要な最小限の信頼のレベルは何か。
• RQ5 技術的、心理的、倫理的、法的視点の包括的連携を、現実の文脈における責任あるロボット開発を導くために、どのように構築すべきか。

主な発見

• 社会的ロボットへの信頼は欠陥や脆弱性ではなく、擬人化と不確実性を管理する人間の認知的戦略の自然な結果である。
• 信頼を最大化することを目的とする現在の研究傾向は、倫理的に問題があり、ユーザーの認識を操作し、自律性を損なうリスクをはらんでいる。
• 信頼性（ロボットの客観的で設計可能な性質）を信頼よりも優先すべきであり、これにより透明性とユーザーのコントロールが可能になる。
• 透明性を設計に組み込むことで、ユーザーはロボットの行動を理解し、制御可能になり、主観的信頼への依存を減らし、偽りのリスクを軽減できる。
• 最小限で十分な信頼のレベルは、多分野的評価を通じて決定可能であり、機能性と倫理的ガードレールのバランスをとれる。
• EUが提案する人工知能法のような法的・倫理的枠組みは、ロボット開発を基本的人権と人格的整合性に適合させる拘束的基準として機能する。