[論文レビュー] JEDAI: A System for Skill-Aligned Explainable Robot Planning

Naman Shah, Pulkit Verma+2 more|arXiv (Cornell University)|Oct 31, 2021

Explainable Artificial Intelligence (XAI)被引用数 5

ひとこと要約

JEDAI は、統合されたタスクおよびモーションプランニングを通じて、高レベルのタスクを低レベルのロボット動作と一致させることで、非専門家ユーザーが視覚的 Blockly インターフェースを用いて実行可能なロボット計画を生成できる画期的な AI システムです。ユーザー固有のモデル推定を活用して、計画の失敗についてパーソナライズされた自然言語による説明を提供することで、教育的およびアウトリーチ的文脈におけるロボットの能力と限界の理解を向上させます。

ABSTRACT

This paper presents JEDAI, an AI system designed for outreach and educational efforts aimed at non-AI experts. JEDAI features a novel synthesis of research ideas from integrated task and motion planning and explainable AI. JEDAI helps users create high-level, intuitive plans while ensuring that they will be executable by the robot. It also provides users customized explanations about errors and helps improve their understanding of AI planning as well as the limits and capabilities of the underlying robot system.

研究の動機と目的

• 教育的およびアウトリーチ的文脈において、AI パワーを持つロボットを非専門家ユーザーが理解し、効果的に使用できるように支援する課題に対処すること。
• ユーザーの直感的で高レベルのタスクプランニングと、ロボットの低レベルの実行の間のギャップを、ユーザーの計画とロボットの能力を一致させることで埋めること。
• ユーザーの現在の理解度と知識水準を反映した、ユーザー固有の対照的説明を計画の失敗に対して提供すること。
• シミュレーションとリアルタイムフィードバックを通じて信頼と学習を促進する、アクセスしやすくインタラクティブなシステムを構築すること。
• タスクプランニング、モーションプランニング、説明可能な AI を統合するフレームワークを、両分野の進展に応じてスケーラブルにすること。

提案手法

• JEDAI は、型安全なアクションブロックをドラッグアンドドロップで操作することで、ユーザーが高レベルのアクション計画を組み立てるための Blockly ベースの視覚的インターフェースを採用しています。
• ユーザーのロボットに関するメンタルモデルを推定し、計画エラーに対する対照的説明を生成するために、階層的熟練度レベルモデリング（HELM）アルゴリズムを採用しています。
• パーソナライズされた説明は、最も認知的に顕著な事前条件違反を特定することで計算され、難易度に配慮したコスト関数を最適化しています。
• 自然言語テンプレートにより、記号的計画構造（例：'pickup(plank_i, gripper_left)'）を '左グリッパーで plank_i を持ち上げる' などの人間が理解可能な記述に変換しています。
• ATM-MDP タスクおよびモーションプランナは、サンプリングベースのモーションプランニングを用いて、高レベル計画を実行可能な低レベルのモーションシーケンスに精錬しています。
• 成功した計画は OpenRAVE シミュレータで可視化され、ユーザーが 3D シミュレーテッド環境でロボットの実行を観察できるようになっています。

実験結果

リサーチクエスチョン

• RQ1 非専門家ユーザーが直感的で実行可能なロボット計画をどのように作成できるようにするか？
• RQ2 パーソナライズされた対照的説明は、ユーザーがロボット計画の失敗をどのように理解を深めるのに寄与するか？
• RQ3 高レベルのユーザーの意図と低レベルのロボット能力を、正確かつ解釈可能になるように一致させることは、どの程度可能か？
• RQ4 タスクプランニング、モーションプランニング、説明可能な AI を統合した統一フレームワークは、教育的ロボット分野における信頼と学習をどのように向上させるか？
• RQ5 非専門家が認知的負荷を軽減できるように、記号的計画要素の自然言語記述をどのように生成できるか？

主な発見

• JEDAI は ATM-MDP プランナを用いて、ユーザーが作成した高レベル計画を実行可能な低レベルのモーションシーケンスに変換し、計画が有効な場合には正しさを保証しています。
• 最も認知的に関連性の高い事前条件違反を特定することで、JEDAI はユーザー固有の対照的説明を生成し、ユーザーの混乱を軽減しています。
• ユーザーのメンタルモデルを推定する HELM を使用することで、JEDAI はユーザーの理解度に応じた説明をカスタマイズし、学習成果を向上させています。
• 自然言語テンプレートの統合により、記号的計画形式と人間の理解の間の認知的障壁が顕著に低減されています。
• JEDAI は、Fetch および YuMi ロボットを用いた実世界のロボットドメインでも実現可能性を示しており、完全なソースコードと事前設定済み仮想マシンが再利用可能になっています。
• JEDAI のモジュラーなアーキテクチャは、下位のタスクおよびモーションプランニング、説明生成技術の進歩に応じてスケーリング可能になっています。