[論文レビュー] Explainable Planning

Maria Fox, Derek Long+1 more|arXiv (Cornell University)|Sep 29, 2017

AI-based Problem Solving and Planning参考文献 26被引用数 66

ひとこと要約

この論文は Explainable Planning (XAIP) を紹介し、なぜ計画をユーザーに説明可能にできるのか、説明のための計画の固有の利点、および初期結果と例示的ドメインを備えたロードマップを概説する。

ABSTRACT

As AI is increasingly being adopted into application solutions, the challenge of supporting interaction with humans is becoming more apparent. Partly this is to support integrated working styles, in which humans and intelligent systems cooperate in problem-solving, but also it is a necessary step in the process of building trust as humans migrate greater responsibility to such systems. The challenge is to find effective ways to communicate the foundations of AI-driven behaviour, when the algorithms that drive it are far from transparent to humans. In this paper we consider the opportunities that arise in AI planning, exploiting the model-based representations that form a familiar and common basis for communication with users, while acknowledging the gap between planning algorithms and human problem-solving.

研究の動機と目的

• ヒトとAI の相互作用における explainable AI の必要性と信頼構築を動機付ける。
• 計画のどの側面が説明可能で、他のAI手法とどう違うのかを特定する。
• AI計画に特化した explainability の質問セット（Q1–Q6）を提案する。
• 説明を支援する計画特有の特徴（モデル、トレース、透明性）を強調する。
• 初期結果、今後の方向性、図示的ドメインを概説して XAIP 開発を導く。

提案手法

• 計画意思決定と計画実行の説明フレームワークとして XAIP を提示する。
• explanations が扱うべき質問を論じる（例：なぜその行動を選んだのか、なぜ代替案が採用されなかったのか、などの質問を扱うべき説明を論じる。
• 異なる指標の下での計画を比較する検証・モデル整合ツールとの統合を提案する。
• 人間が理解できる説明を生成するための実行トレースと計画モデル（PDDL）の利用を説明する。
• 失敗の説明、リプラン要件、非到達証明（モデル検証、STN）を説明する方法論を提案する。
• 実例として rover および AUV ドメインからの例を用いて説明を実演する。

実験結果

リサーチクエスチョン

• RQ1 Q1 なぜそれをしたのですか？（行動選択と因果的関連性を説明）
• RQ2 Q2 なぜ他のことをしなかったのですか？（代替行動とその影響を説明）
• RQ3 Q3 あなたの計画は特定の指標のもとで代替案よりもより効率的/安全/安価であるのはなぜですか
• RQ4 Q4 なぜそれをできないのですか？（未解決性や前提条件/制約の不成立を説明）
• RQ5 Q5 この時点でなぜリプランが必要ですか？（環境やモデルの変化を説明）
• RQ6 Q6 なぜリプランする必要はありませんか？（観測されたずれの下で計画の有効性を説明）

主な発見

• XAIP は、プランナーのモデルベース表現がユーザーに対して直感的な説明を可能にすると主張する。
• 説明可能な計画は、ドメインモデル、実行トレース、計画生成の理由の伝達に依存し、生のアルゴリズム詳細には依存しない。
• 本文は、検証、モデル調整、および動的な随伴性を含むロードマップを概説しており、説明、リプラン、非存在証明に対応する。
• 2つの例示的ドメイン（Rover および AUV）が、説明が行動選択、代替オプション、リプランの引き金を正当化する方法を示している。
• 初期結果は、説明をバリデータとモデルチェッカーと統合し、トレースを用いて実行決定を正当化することの実現性を示す。
• 著者は、特に確率的または不確実な計画状況において、良い説明とは何かを定義するための形式化と指標の将来の必要性を認めている。