[論文レビュー] Explainable Autonomous Robots: A Survey and Perspective

Tatsuya Sakai, Takayuki Nagai|arXiv (Cornell University)|May 6, 2021

Explainable Artificial Intelligence (XAI)参考文献 63被引用数 4

ひとこと要約

本調査では、ユーザーの心理状態をモデル化し、説明の詳細度を調整することで、人間が理解できる言語でロボットがその行動、意図、意思決定を動的に説明できるようにする、説明可能で自律的なロボット（XAR）のフレームワークを提案する。主な貢献は、自律システムにおける説明可能性の統一的定義と、適応的かつ文脈に応じた通信を通じて説明生成をロボット意思決定に統合するロードマップの提示である。

ABSTRACT

Advanced communication protocols are critical to enable the coexistence of autonomous robots with humans. Thus, the development of explanatory capabilities is an urgent first step toward autonomous robots. This survey provides an overview of the various types of "explainability" discussed in machine learning research. Then, we discuss the definition of "explainability" in the context of autonomous robots (i.e., explainable autonomous robots) by exploring the question "what is an explanation?" We further conduct a research survey based on this definition and present some relevant topics for future research.

研究の動機と目的

• 機械学習の解釈可能性を越えて、人間とロボットの間の相互理解に焦点を当て、自律的ロボットにおける説明可能性を定義すること。
• とくにリアルタイムの相互作用において顕著な意思決定の不透明性が原因で生じる人間-ロボット信頼のギャップを是正すること。
• ロボットがユーザーの心理モデルを推定し、ユーザーの知識水準と信頼度に応じて説明をカスタマイズするフレームワークを提案すること。
• ロボットコミュニケーションにおける説明タイミング、内容、倫理的整合性の根幹的課題を特定すること。
• 説明生成を自律的行動の第一級の構成要素として、ロボットの行動空間に統合すること。

提案手法

• 自律的ロボットにおける説明可能性を、人間の認知モデルと整合する形で行動の根拠を伝える能力として定義する。
• ロボットの内部状態、ユーザーの内部状態、外部環境の3状態からなる世界モデルを導入し、説明生成を可能にする。
• 説明の提示をロボットの行動空間内のアクションとして扱い、標準的な強化学習アルゴリズムによる学習を可能にする。
• ユーザーの予測行動とロボット自身の意思決定モデルとのモデル比較を通じて、関連する説明内容を抽出する。
• ユーザー固有の信頼度と知識水準に基づいて説明の詳細度を適応的に調整し、情報過多を回避する。
• 事実と異なる説明を提示する倫理的影響を検討し、短時間の利便性をもたらすとしても、長期的な信頼を損なうため、嘘をつくことは避けるべきであると提言する。

実験結果

リサーチクエスチョン

• RQ1 自律的ロボットの文脈における有効な説明とは何か。また、機械学習の解釈性とはどのように異なるか。
• RQ2 ロボットが動的にユーザーの心理モデルを推定し、文脈に適した説明を生成するにはどうすればよいか。
• RQ3 人間-ロボットインタラクション中に、いつ、何を、どのように説明するかを決定するメカニズムは何か。
• RQ4 説明生成を、ロボットの意思決定および行動選択プロセスに形式的に統合するにはどうすればよいか。
• RQ5 実際の推論プロセスとは乖離する説明を生成する際の倫理的境界はどこにあるか。

主な発見

• 自律的ロボットにおける説明可能性は、単に出力の説明を行うのではなく、内部状態の相互理解を必要とする根本的なコミュニケーション問題である。
• 説明の詳細度と内容は、ユーザーの知識水準と信頼度に応じて調整されなければならず、ユーザーを圧倒させたり誤解を招いたりするおそれがある。
• 説明生成はロボットの行動空間内のアクションとしてモデル化可能であり、標準的なRLフレームワークを用いたエンドツーエンド学習が可能になる。
• 説明をしないと信頼が損なわれ、タイミングが悪いかユーザーの関心とは関係のない説明であっても、正確な説明であっても効果が薄れる。
• 事実と異なる説明を提示する場合、長期的なシステム信頼を損なうリスクがあるため、倫理的懸念が生じる。
• このフレームワークにより、ロボットは「何をしているか」だけでなく「なぜそうしているか」を伝えることができ、共通の意図性の感覚を醸成できる。