[論文レビュー] Explain Yourself: A Natural Language Interface for Scrutable Autonomous Robots

Francisco J. Chiyah Garcia, David A. Robb+4 more|arXiv (Cornell University)|Mar 6, 2018

Topic Modeling参考文献 10被引用数 18

ひとこと要約

本論文では、MIRIAM を提示する。MIRIAM は、遠隔での自律走行車両が、話すような方法で、オンデマンドで人間がアノテートした説明を提供できる自然言語インタフェースを提供する。専門家の口述による説明から解釈可能な自律性モデルを導出し、テンプレートベースの自然言語生成を用いて文脈に応じた、信頼性順にランク付けされた説明を生成することで、高リスクな遠隔運用における透明性と信頼性を向上させる。

ABSTRACT

Autonomous systems in remote locations have a high degree of autonomy and there is a need to explain what they are doing and why in order to increase transparency and maintain trust. Here, we describe a natural language chat interface that enables vehicle behaviour to be queried by the user. We obtain an interpretable model of autonomy through having an expert 'speak out-loud' and provide explanations during a mission. This approach is agnostic to the type of autonomy model and as expert and operator are from the same user-group, we predict that these explanations will align well with the operator's mental model, increase transparency and assist with operator training.

研究の動機と目的

• 高リスク環境で運用される遠隔自律走行車両（AxVs）における透明性と信頼性の欠如に対処すること。
• オペレーターがリアルタイムで車両の行動を質問できる自然言語インタフェースを開発すること。
• 専門家の口述による説明を通じて、オペレーターのメンタルモデルと整合する解釈可能な自律性モデルを構築すること。
• ミッション監視中のオペレーターの状況認識を向上させ、認知的負荷を軽減すること。
• 高リスクな運用環境における説明生成における、完全性と整合性（soundness）のトレードオフを評価すること。

提案手法

• 専門家が、SeeTrack インターフェースを用いて、ミッションの再生中に自律走行車両の行動について『話しながら考える』説明を行う。
• 専門家の説明から意思決定ツリーのモデルを構築し、自律性の論理を表現する。これにより、『なぜ』と『なぜでない』の両方の推論を捉える。
• 現在のミッション状態と履歴を意思決定ツリーにマッピングし、信頼性レベルとともに関連する説明を取得する。
• テンプレートベースの自然言語生成（NLG）を用いて説明を生成し、語りの表現を3段階の信頼性レベルに合わせる：高（80％以上）、中（40％～80％）、低（40％未満）。
• MIRIAM インターフェースは、Neptune 自律性ソフトウェアと SeeTrack 視覚化ツールに統合されており、マルチモーダルな相互作用を可能にする。
• このアプローチは、下位の自律性モデルに依存せず、ルールベースのシステムやディープラーニングのような複雑なモデルに対しても対応可能である。

実験結果

リサーチクエスチョン

• RQ1 自律走行車両は、遠隔オペレーターに対して、オンデマンドで文脈に応じた行動の説明をどのように提供できるか？
• RQ2 専門家が生成した説明は、遠隔自律運用の状況において、オペレーターのメンタルモデルとどの程度一致するか？
• RQ3 高リスクな運用環境において、説明の完全性と信頼性（整合性）の最適なバランスは何か？
• RQ4 信頼性レベルのインジケータ（例：「おそらく」、「確実に」）は、ユーザーの信頼やシステム信頼性の認識にどのように影響するか？
• RQ5 人間がアノテートした解釈可能な自律性モデルは、多様な自律性アーキテクチャにわたり、自然言語の説明を効果的に生成するために有効に利用できるか？

主な発見

• MIRIAM システムは、専門家が提供する根拠に基づいた、文脈に応じた信頼性順にランク付けされた説明を効果的に生成した。
• ミッション状態が変化するにつれて説明が動的に更新され、データが蓄積されるにつれて、信頼性の高い回答がミッション後半に現れる傾向を示した。
• 一連の行動に対して、複数の理由を異なる信頼性レベルで提示でき、リアルタイム意思決定における不確実性を反映した。
• 専門家の口述による説明がオペレーターのメンタルモデルとよく一致しており、透明性が向上したことが示された。
• ユーザーのフィードバックから、口頭での信頼性インジケータ（例：「おそらく」）は、高リスクな文脈では信頼を低下させる可能性があることが示され、代替表現方法の必要性が示唆された。
• このアプローチは、下位の自律性モデルに依存しないため、ルールベースのシステムや複雑なディープラーニングシステムを含む多様な自律性アーキテクチャに適用可能である。