[論文レビュー] Axiom Learning and Belief Tracing for Transparent Decision Making in Robotics

Tiago Mota, Mohan Sridharan|arXiv (Cornell University)|Oct 20, 2020

AI-based Problem Solving and Planning参考文献 8被引用数 4

ひとこと要約

本稿では、非単調論理的推論、ディープラーニング、意思決定木の誘導を統合することで、ロボットが意思決定、信念、仮説的行動について、オンデマンドで関係的説明を生成できるロボットアーキテクチャを提案する。データから新しい公理を学習し、それらを推論のガイドとして用いることで、説明の正確性が著しく向上し、学習済みの公理を用いると、計画および信念の正当化タスクにおいて100%の正確性と再現率を達成する。

ABSTRACT

A robot's ability to provide descriptions of its decisions and beliefs promotes effective collaboration with humans. Providing such transparency is particularly challenging in integrated robot systems that include knowledge-based reasoning methods and data-driven learning algorithms. Towards addressing this challenge, our architecture couples the complementary strengths of non-monotonic logical reasoning, deep learning, and decision-tree induction. During reasoning and learning, the architecture enables a robot to provide on-demand relational descriptions of its decisions, beliefs, and the outcomes of hypothetical actions. These capabilities are grounded and evaluated in the context of scene understanding tasks and planning tasks performed using simulated images and images from a physical robot manipulating tabletop objects.

研究の動機と目的

• 複雑で動的な環境において、ロボットが意思決定、信念、仮説的行動についてオンデマンドで関係的説明を提供できるようにすること。
• 知識ベースの推論とデータ駆動型学習を統合するシステムにおける説明可能性の課題に対処すること。
• 経験から行動の事前条件および効果を規定する新しい公理を学習するシステムを開発し、透明性を向上させること。
• 初期状態から順序付きの公理の系列を通じて信念の進化を自動的にトレースできること。
• シミュレートおよび物理的ロボットシナリオにおいて、シーン理解および計画を含むアーキテクチャの評価を行うこと。

提案手法

• アーキテクチャは、ドメインのダイナミクスをモデル化し、信念のトレースを支援する非単調論理的推論のための答え集合プログラミング（ASP）を用いる。
• ディープラーニングモデルは、画像からの物体および空間的関係認識といった認識タスクに適応される。
• 意思決定木の誘導を用いて、観察されたデータおよび推論結果から新しい公理（事前条件および効果）を学習する。
• 説明は、既知および学習済みの公理に基づき、推論トレースから関連するリテラルを取得することで構築される。
• 既存の知識が意思決定や信念の正当化に不十分であると判明した際に、システムは動的に学習をトリガーする。
• 説明は、論理的推論および学習済みの制約に基づいた、物体、行動、属性の関係的記述として生成される。

実験結果

リサーチクエスチョン

• RQ1 ロボットシステムは、知識ベースの推論とデータ駆動型学習の組み合わせを用いて、正確でオンデマンドの意思決定および信念の説明をどのように生成できるか？
• RQ2 新しい公理の学習が、ロボットタスクにおける説明生成の正確性および再現率にどの程度向上効果をもたらすか？
• RQ3 論理的推論を用いて、初期知識から現在の状態までの信念の進化を、システムが自動的にトレースできるか？
• RQ4 推論と学習の統合は、ロボット意思決定の透明性および信頼性をどのように向上させるか？
• RQ5 学習済みの公理は、計画および認識における仮説的または反事実的シナリオの説明にどのような影響を及ぼすか？

主な発見

• 学習済みの公理を推論に用いた場合、シミュレートされたシーンにおける計画記述および信念正当化タスクにおいて、説明生成の正確性と再現率が100%に達した。
• 学習済みの公理の使用により、性能が著しく向上し、実行されていない行動に関する質問では、物理的ロボット実験で再現率が63.01%から100%に上昇した。
• 学習済みの公理がなくても、システムは妥当な性能（例：計画記述における71.85%の正確性）を維持しており、既存の知識による堅牢性が示された。
• 説明の誤りはまれで、通常は過剰仕様化（余分なリテラル）に起因しており、説明構築の高精度性が示された。
• ゴールに関連する公理が削除された場合、性能が著しく低下したため、正確な説明生成においてこれらの公理が極めて重要な役割を果たしていることが確認された。
• センサーおよびアクチュエータのノイズに対しても、システムは堅牢であり、認識、制約学習、操作エラー率はそれぞれ15%、5–10%、15%であったが、依然として正確な説明を生成した。