[論文レビュー] Towards Providing Explanations for AI Planner Decisions

Rita Borgo, Michael Cashmore+1 more|Strathprints: The University of Strathclyde institutional repository (University of Strathclyde)|Oct 15, 2018

AI-based Problem Solving and Planning参考文献 15被引用数 10

ひとこと要約

本論文は、ユーザーが代替行動を提案できるようにすることで、AIプランナの意思決定を説明するユーザ中心の手法を提案している。これにより、代替プランの生成と比較が可能となり、プランナの選択がなぜ優れているかを示せる。XAI-PlanフレームワークはROSPlan上で実装されており、透明性がありインタラクティブな説明を提供することで、複雑な分野におけるミックスド・イニシャチブ型計画の信頼性を高めている。

ABSTRACT

In order to engender trust in AI, humans must understand what an AI system is trying to achieve, and why. To overcome this problem, the underlying AI process must produce justifications and explanations that are both transparent and comprehensible to the user. AI Planning is well placed to be able to address this challenge. In this paper we present a methodology to provide initial explanations for the decisions made by the planner. Explanations are created by allowing the user to suggest alternative actions in plans and then compare the resulting plans with the one found by the planner. The methodology is implemented in the new XAI-Plan framework.

研究の動機と目的

• 計画者がユーザーに対して意思決定を正当化できる必要がある、高リスク分野における説明可能なAI（XAI）の重要なニーズに対処すること。
• 既存の計画説明システムが計画が*何を実行するか*を説明するだけで、*なぜ特定の計画が選ばれたか*の説明が欠けているという限界を克服すること。
• ユーザーが代替行動とその結果となる計画を探索・比較できる、ドメインに依存しない手法を開発すること。
• ユーザーの専門知識を活用できる形で、説明生成を計画パイプラインに統合し、ミックスド・イニシャチブ型計画を支援すること。
• 代替計画が無効であるか、プランナの出力よりも非効率であることを示すことで、正当化を生成するフレームワークを提供すること。

提案手法

• ユーザーが計画行動を選択し、その状態で満たされている事前条件を満たす行動のリストから代替行動を提案できるようにする。
• ユーザーが提案した行動を表す新しい述語とオペレータを追加することで、計画ドメインを動的に変更する。
• 変更された問題インスタンス上で再びプランナを実行し、代替行動に基づく新しい計画を生成する。
• ユーザーが定義した指標（計画コスト、所要時間、リソース使用量など）を用いて、元の計画と代替計画を連結・比較する。
• 階層的計画ツリーとパフォーマンスチャートを備えたリアルタイムでインタラクティブなインターフェースに、両方の計画とその指標比較を表示する。
• ROSPlanを基盤とする計画インfraとして採用し、XAI-Planを拡張して説明生成とユーザーインタラクションをサポートする。

実験結果

リサーチクエスチョン

• RQ1 AIプランナは、なぜ特定の計画が代替案よりも選ばれたかをどのように説明できるか？
• RQ2 ユーザーが提案する代替案を用いて、意味のある比較的説明を生成することは可能か？
• RQ3 複雑な計画分野において、非専門家ユーザーが理解できる透明性の高い説明はどのように実現できるか？
• RQ4 ユーザーが提供する代替案は、最終的な計画の質を向上させたり、プランナの限界を明らかにしたりする程度はどの程度か？
• RQ5 パフォーマンスを損なわせることなく、リアルタイムでインタラクティブな計画フレームワークに説明プロセスを統合するにはどうすればよいか？

主な発見

• XAI-Planフレームワークは、ユーザーが代替行動を探索・比較し、新たな計画を生成し、比較指標に基づいた正当化を提供できることを実証した。
• システムは、プランナが選択した計画がユーザーが提案した代替案よりも劣っていないことを示し、その選択の根拠を明確に説明している。
• ROSPlanとの統合により、時間的制約、数値的フラジェント、連続的環境を含む実世界の分野でもフレームワークが動作可能であることが確認された。
• ユーザーインターフェースはリアルタイムフィードバック、棒グラフを用いた計画比較、ナビゲーションと追跡に適した階層的計画ツリーをサポートしている。
• ユーザーが代替行動の提案を通じてドメイン知識を貢献できる仕組みを備えており、ミックスド・イニシャチブ型計画を支援している。
• 本アプローチはドメインに依存せず、基盤となるプランナにも依存しないため、さまざまな計画システムに広く適用可能である。