[論文レビュー] Towards A Robot Explanation System: A Survey and Our Approach to State Summarization, Storage and Querying, and Human Interface

Han Zhao, Jordan Allspaw+2 more|arXiv (Cornell University)|Sep 13, 2019

Explainable Artificial Intelligence (XAI)参考文献 54被引用数 5

ひとこと要約

本論文は、状態要約、効率的な照会を最適化した永続的データストレージ、およびマルチモーダルな人間インターフェースを統合した包括的なロボット説明システムを提案する。このシステムにより、ロボットの信頼性と透明性が向上し、抽象的から詳細な要約まで、構造化されたデータベースに格納された情報を、音声、ジェスチャー、またはARを介して、ロボット主導および人間主導の説明が可能になる。評価は、FetchIt! タスク環境で提案されている。

ABSTRACT

As robot systems become more ubiquitous, developing understandable robot systems becomes increasingly important in order to build trust. In this paper, we present an approach to developing a holistic robot explanation system, which consists of three interconnected components: state summarization, storage and querying, and human interface. To find trends towards and gaps in the development of such an integrated system, a literature review was performed and categorized around those three components, with a focus on robotics applications. After the review of each component, we discuss our proposed approach for robot explanation. Finally, we summarize the system as a whole and review its functionality.

研究の動機と目的

• 人間-ロボット相互作用（HRI）における説明可能なロボットシステムの増大するニーズに対応し、信頼性と使いやすさを向上させる。
• 状態要約、データストレージ／照会、人間インターフェース要素に関する文献を調査することで、ロボット説明システムにおける研究ギャップを特定する。
• 複数の抽象レベルで、ロボット主導および人間主導の説明を両立できる統合アーキテクチャを設計する。
• 自然言語、ジェスチャー、ARプロジェクションを用いた効率的でスケーラブルかつマルチモーダルな説明の伝達を実現する。
• FetchIt! モバイルマニピュレーションチャレンジのような現実的で制限のある環境で、システムを評価する。

提案手法

• 複数の抽象レベル（生のセンサデータから高レベルのタスク記述まで）で、手動または自動手法を用いて状態要約が行われる。
• 永続的データベースが要約、生の状態、メタデータを格納し、動的照会によるフォローアップ説明を可能にするために、関連する関係を保持する。
• 事前に格納された要約がユーザーの照会に不十分な場合に備え、オンライン要約をサポートする照会インターフェースを採用する。
• 人間インターフェースは、音声、ボディランゲージ、スクリーン、ARを含むマルチモーダル通信を用い、文脈や注意の必要に応じてモダリティを選択する。
• 双方向のインタラクションを支援する：ロボットは不透明な行動に対して説明を主導的に開始でき、ユーザーは必要に応じてより詳細または広範な説明を要求できる。
• モジュラーAPIを設計することで、既存のロボットソフトウェアスタックおよび説明モジュールとの統合を可能にする。

実験結果

リサーチクエスチョン

• RQ1 どのようにして、エキスパートおよび非エキスパートユーザーの両方を考慮した複数の抽象レベルでのロボット行動の要約を実現できるか？
• RQ2 さまざまな詳細度の説明を効率的に格納および取得するためのデータベース設計と照査メカニズムは何か？
• RQ3 音声、ジェスチャー、ARなどのマルチモーダル人間インターフェースを効果的に統合することで、説明の理解度と関与度をどのように向上できるか？
• RQ4 一般のAIまたはバーチャルエージェントの説明システムと比較して、現在のロボット説明システムにおける主なギャップは何か？
• RQ5 現実世界のロボットタスク環境で、ロボット主導および人間主導の説明をどのようにシームレスに統合できるか？

主な発見

• 現在の学習ベースの要約手法の未熟さを考慮すると、手動による状態要約が依然として有効な代替手段である。
• 動的ユーザー照会をサポートするため、異なる説明レベル間のリンクを維持するために、永続的かつ照査可能なデータベースが不可欠である。
• 特に音声、ジェスチャー、ARの組み合わせによるマルチモーダル通信は、物理的HRI環境における注意喚起と説明理解の向上に寄与する。
• グリッピングの問題、ナビゲーションエラー、オブジェクト認識の混乱といった共通の失敗モードがあるため、FetchIt! タスク環境は説明システムの評価に現実的で適したテストベッドである。
• 空間的制約やセンサのノイズによる誤ったグリッピングなどの一般的なロボットの失敗は、タイムリーで人間が理解できる説明の必要性を強調する。
• 提案されたシステムアーキテクチャは、ロボット主導およびユーザー主導の説明を両立でき、滑らかでインタラクティブな説明セッションを可能にする。