[論文レビュー] Plan Explanations as Model Reconciliation: Moving Beyond Explanation as Soliloquy

Tathagata Chakraborti, Sarath Sreedharan+2 more|arXiv (Cornell University)|Jan 28, 2017

AI-based Problem Solving and Planning参考文献 19被引用数 38

ひとこと要約

本稿では、AI計画の説明をモデル一致の問題としてモデル化し、AIシステムが人間のメンタルモデルを自身のモデルと一致させるように更新することで、計画が最適に見えるようにする手法を提案する。モデル一致問題（MRP）を導入し、説明生成をモデル変更の空間におけるA*-探索として定式化し、完全なモデルダンプに比べて最小限で完全な説明が、モデルの差分サイズを顕著に小さくすることを示している。これにより説明可能性と効率性が向上する。

ABSTRACT

When AI systems interact with humans in the loop, they are often called on to provide explanations for their plans and behavior. Past work on plan explanations primarily involved the AI system explaining the correctness of its plan and the rationale for its decision in terms of its own model. Such soliloquy is wholly inadequate in most realistic scenarios where the humans have domain and task models that differ significantly from that used by the AI system. We posit that the explanations are best studied in light of these differing models. In particular, we show how explanation can be seen as a "model reconciliation problem" (MRP), where the AI system in effect suggests changes to the human's model, so as to make its plan be optimal with respect to that changed human model. We will study the properties of such explanations, present algorithms for automatically computing them, and evaluate the performance of the algorithms.

研究の動機と目的

• 人間とAIが同じモデルを共有すると仮定する従来の「独白的」説明の限界に対処すること。これは現実のヒューマン・エージェント相互作用ではしばしば成り立たない。
• 説明生成をモデル一致問題（MRP）として形式化すること。AIは人間のモデルに対する最小限の変更を提案し、その修正後の人間のモデルにおいてAIの計画が最適となるようにする。
• 完全性、簡潔性、単調性、計算可能性を満たす、計算的に効率的な説明生成アルゴリズムの開発。
• ベンチマーク計画領域におけるこれらのアルゴリズムの性能評価。最小限の説明が、全モデル差分に比べて顕著に小さくなることを示す。
• 人間のモデルが直接利用できない場合の説明生成の可能性を検討する。PDDL形式で表現された学習済みの人間モデルを仮定する。

提案手法

• AIと人間の相互作用を、AIのモデルと人間のモデルが異なるため、人間のAI計画の解釈が非最適になる「マルチモデル計画」設定として形式化する。
• モデル一致問題（MRP）を定義し、人間のモデルに対する最小限の変更を求める。これにより、AIの計画が更新後のモデルにおいて最適となるようにする。
• 3種類の説明タイプを提案する：最小完全説明（MCE）、最小モデル最適説明（MME）、近接計画説明（PPE）。それぞれ完全性、単調性、計算可能性の1つを緩和することで、計算の tractability（取り扱いやすさ）を確保する。
• MCEおよびMMEの計算に、モデル変更の空間におけるA*-探索アルゴリズムを実装し、ヒューリスティクスを用いて探索効率を向上させる。
• ラップドPDDL表現を用いてモデル差分および変更操作を実行し、モデル変更のスケーラブルな探索を可能にする。
• 命題3を適用してMMEの探索空間を削減し、ブロックワールド実験では評価するノード数を2^10 = 1024からはるかに小さい集合にまで削減する。

実験結果

リサーチクエスチョン

• RQ1 人間のモデルがAIのモデルと異なる状況において、AIシステムが効果的かつ効率的な説明をどのように生成できるか。
• RQ2 ヒューマン・エージェント相互作用の文脈で、説明が有効であるとされるために必要な特性は何か。
• RQ3 モデル変更の空間における探索問題としてモデル一致を定式化することで、効率的な説明生成が可能か。
• RQ4 MCE、MME、PPEといった異なる説明タイプは、完全性、サイズ、計算コストの観点でどのように比較できるか。
• RQ5 ヒューリスティックな近似は、説明の品質を損なわず、計算時間をどれほど短縮できるか。

主な発見

• MCEおよびMMEの説明タイプは、全モデル差分の約20％のサイズにまで小さく抑えられており、最小限の説明がモデル不一致を顕著に低減することを示している。
• MCE探索におけるヒューリスティクスの使用により、計算時間は顕著に短縮され、すべてのベンチマークドメインで計算効率の向上が確認された。
• 近似MCEは正確なMCEとサイズが非常に近く、近似戦略が説明の品質を保持しつつスケーラビリティを向上させることを示している。
• MME探索はMCEより高コストであるが、両者とも全モデル差分（|MPE|）に比べてはるかにコンパクトである。これは最小限の説明の価値を裏付けている。
• PPE説明は計算コストが低く、完全性と単調性に欠け、しばしば不要な変更を含むため、MCEやMMEに比べて効果が低い。
• 命題3のおかげで、MMEの探索ノード数は2^10 = 1024からはるかに小さい部分集合にまで削減され、この削減戦略の有効性が裏付けられた。