[論文レビュー] Towards Explainable AI Planning as a Service

Michael Cashmore, Anna Collins+4 more|Strathprints: The University of Strathclyde institutional repository (University of Strathclyde)|Aug 14, 2019

AI-based Problem Solving and Planning参考文献 21被引用数 16

ひとこと要約

本稿では、説明可能なAI計画をサービスとして提供する（XAIPaaS）モジュラーなフレームワークを提案する。このフレームワークは、信頼できる計画者とドメインモデルをラッパーとして用い、ユーザーの質問「AではなくBなのか？」に対する対照的説明を生成する。仮説的計画問題を制約を用いて定式化することで、代替行動を比較可能な形で再計画し、安全で重要な応用分野における計画の品質の検証と信頼の構築を可能にする。ユーザー自身が検証済みの計画者とモデルを用いるため、信頼性が保証される。

ABSTRACT

Explainable AI is an important area of research within which Explainable Planning is an emerging topic. In this paper, we argue that Explainable Planning can be designed as a service -- that is, as a wrapper around an existing planning system that utilises the existing planner to assist in answering contrastive questions. We introduce a prototype framework to facilitate this, along with some examples of how a planner can be used to address certain types of contrastive questions. We discuss the main advantages and limitations of such an approach and we identify open questions for Explainable Planning as a service that identify several possible research directions.

研究の動機と目的

• 安全で重要な計画応用分野における説明可能なAIの増大するニーズに対応し、ユーザーが使用する計画者とモデルを信頼できるようにすること。
• 「AではなくBなのか？」という質問に答える対照的説明を可能にし、同じ信頼できる計画者とドメインモデルを用いて代替計画を生成・比較すること。
• 任意のPDDL 2.1準拠の計画者とドメインで動作するモジュラーかつ中立的なフレームワークを設計し、互換性とユーザーの信頼を確保すること。
• 繰り返しのユーザー質問に対応するため、動的な制約コンパイルと再計画を可能にし、説明の洗練を深めること。
• 説明の効果性、自動化、および人間-コンピュータインタラクションや認知科学との統合に関する、未解決の研究課題を特定すること。

提案手法

• フレームワークは、既存の計画システムをラップし、元の計画問題、ドメインモデル、およびユーザーの質問を受け入れる。
• ユーザーの質問は、元のドメインモデルを変更する形式的制約に翻訳され、仮説的計画問題が生成される。
• システムは、制約付き問題に対して元の計画者を実行し、代替計画の比較を可能にする。
• 制約はドメインモデルに統合され、忠実度が保たれ、代替計画が元のモデルで実行可能であることを保証する。
• フレームワークは、動的に制約を変更し、計画者を再実行することで、繰り返しの質問に対応できる。
• GUIを実装し、元の計画と代替計画の差を可視化。追加されたアクションは赤、削除されたアクションは青で強調表示する。

実験結果

リサーチクエスチョン

• RQ1 ユーザーが信頼する計画者とドメインモデルを用いて、別個の信頼できないシステムではなく、対照的説明をどのように生成できるか？
• RQ2 安全で重要な計画分野において、ユーザーにとって最も関連性があり有用な対照的質問の種類は何か？
• RQ3 制約に基づくモデル変更を用いて、ユーザーの質問から仮説的計画問題を効果的に構築する方法は何か？
• RQ4 モジュラーかつ拡張可能な XAIP-as-a-service フレームワークを構築するうえでの主な技術的およびユーザビリティ上の課題は何か？
• RQ5 実際の応用において、対照的説明の効果性をどのように評価できるか、特にユーザーの信頼と理解の観点から。

主な発見

• XAIPaaSフレームワークは、ユーザーが指定した制約のもとで再計画を実行することで、対照的説明を効果的に生成し、元の計画と代替計画の比較を可能にした。
• 本アプローチにより、すべての説明がユーザーが信頼する計画者とドメインモデルに基づくため、モデルの忠実度が保たれ、ユーザーの信頼が維持される。
• PDDL 2.1におけるプロトタイプ実装は、既存の計画者と互換性があり、繰り返しの説明洗練を可能にする動的制約インジェクションをサポートしている。
• 因果グラフやGUIの強調表示といった可視化手法は、計画の差を効果的に伝えることができ、追加されたアクションは赤、削除されたアクションは青で表示される。
• フレームワークはROSPlanへの統合が進行中であり、ロボット工学や実世界のAI計画システムにおける実用的応用性が示されている。
• 本稿では、自動的質問分解、ユーザースタディによる検証、可視化および認知科学分野との協働的連携といった、今後の研究方向性を同定している。