[論文レビュー] Enabling Basic Normative HRI in a Cognitive Robotic Architecture

Vasanth Sarathy, Jason R. Wilson+2 more|arXiv (Cornell University)|Feb 11, 2016

Psychology of Moral and Emotional Judgment参考文献 12被引用数 5

ひとこと要約

本稿では、DIARCにおける統合的認知ロボットアーキテクチャを提案し、アフォーダンスに基づく推論、類似推論、行動選択を統合することで、基本的な規範的ヒューマンロボットインタラクションを可能にする。シナリオベースの推論を通じて、危険な物体の渡し方などの規範的違反を、類似した過去の状況に基づいて行動を変更することで、事前に回避できることを示している。これにより、社会的に許容可能な行動が保証される。

ABSTRACT

Collaborative human activities are grounded in social and moral norms, which humans consciously and subconsciously use to guide and constrain their decision-making and behavior, thereby strengthening their interactions and preventing emotional and physical harm. This type of norm-based processing is also critical for robots in many human-robot interaction scenarios (e.g., when helping elderly and disabled persons in assisted living facilities, or assisting humans in assembly tasks in factories or even the space station). In this position paper, we will briefly describe how several components in an integrated cognitive architecture can be used to implement processes that are required for normative human-robot interactions, especially in collaborative tasks where actions and situations could potentially be perceived as threatening and thus need a change in course of action to mitigate the perceived threats.

研究の動機と目的

• 認知的ロボットアーキテクチャにおける規範的推論の欠如に応えるために、ヒューマンロボットインタラクションに道徳的能力を統合すること。
• 危険な物体の渡し方などの社会的・道徳的に重要な状況をリアルタイムで認識し、それに応答できるようにすること。
• 過去のシナリオと類似比較することで、道徳的に問題のある行動を検出することにより、規範的違反を回避すること。
• 道徳的違反が検出された際に、安全な代替行動を選択する動的行動修正プロセスを実装すること。
• エンドツーエンドの規範的意思決定を可能にするために、道徳的認識をフルスタックの認知アーキテクチャ（DIARC）に統合すること。

提案手法

• 構造マッピングエンジン（SME）を用いて、現在のシナリオと保存済みの過去のシナリオとの間で類似性を計算し、構造的に類似した状況を同定する。
• 道徳的認識アルゴリズム（CheckMoralPercept）を適用し、最も類似したシナリオが道徳的に許容可能かどうかを確認する。許容不可の場合、反復的に行動スクリプトを修正する。
• マルチモーダルアフォーダンスモデルを用いて、文脈に応じた物体および行動の物理的、機能的、社会的、倫理的アフォーダンスを推論する。
• 行動選択と道徳的推論を統合し、規範的違反が検出された際に、代替的で安全な行動を選択できるようにする。
• DIARCアーキテクチャの既存コンponents（認識、ナビゲーション、計画、NLP）を活用し、規範的処理のシームレスな統合を実現する。
• SMEから得られる類似度スコア（例：0.4465、0.4285、0.2910）を用いて、類似シナリオをランク付けし、道徳的評価をガイドする。

実験結果

リサーチクエスチョン

• RQ1 認知的ロボットアーキテクチャは、物体の渡し方などの危険な行動を含む道徳的に重要な状況を、どのように検出できるか？
• RQ2 過去の類似シナリオと比較することで、ロボットは行動の規範的妥当性をどのように推論できるか？
• RQ3 道徳的違反が検出された場合、ロボットはどのようにして行動計画を動的に修正し、規範的違反を回避できるか？
• RQ4 特に社会的および倫理的アフォーダンスの推論は、ヒューマンロボットインタラクションにおける規範的行動にどのような役割を果たすか？
• RQ5 保存済みのシナリオとの類似推論は、リアルタイムのロボットインタラクションにおける道徳的意思決定を効果的にガイドできるか？

主な発見

• 道徳的認識アルゴリズムは、現在のシナリオと非常に類似（0.4465）しているため、野球のバットシナリオ（BBS）を道徳的違反として正しく特定し、行動の修正を促した。
• 行動スクリプトに口頭の警告を追加した後、ホットソースパントシナリオ（HSS）が最も類似（0.4285）したが、これは道徳的に許容可能であったため、修正された行動が正当化された。
• 花のシナリオ（FS）は、予期しない出来事と物体のアフォーダンスを伴っていたが、良好な結果であり害がなかったため、道徳的に許容可能であった。これは道徳的評価における文脈の感受性を示している。
• 本システムは、正確なシナリオの一致を必要とせず、構造的類似性に依存することで、規範的リスクを効果的に検出する類似推論を活用した。
• DIARCアーキテクチャへの道徳的推論の統合により、リアルタイムで文脈に応じた行動選択が可能となり、社会的に不適切な行動を回避できるようになった。
• 本アプローチにより、ロボットが現在の行動を類似した過去の状況と比較し、それに応じて行動を修正することで、規範的違反を事前に回避できることを実証した。