[論文レビュー] Hierarchical Expertise-Level Modeling for User Specific Robot-Behavior Explanations

Sarath Sreedharan, Siddharth Srivastava+1 more|arXiv (Cornell University)|Feb 19, 2018

AI-based Problem Solving and Planning参考文献 16被引用数 6

ひとこと要約

本稿では、ユーザーの専門知識レベルに応じたロボット行動の説明を生成するためのフレームワークである階層的専門知識モデリング（HELM）を提案する。このフレームワークは、ユーザーのメンタルモデルをロボットのドメインモデルの抽象化としてモデル化し、反例（フォイル）を用いて最小限の説明を生成するための階層的抽象化のラティスを活用することで、文脈に適したユーザーのモデルの具象化を効率的に行う。IPCドメインにおける実証的評価が行われている。

ABSTRACT

There is a growing interest within the AI research community to develop autonomous systems capable of explaining their behavior to users. One aspect of the explanation generation problem that has yet to receive much attention is the task of explaining plans to users whose level of expertise differ from that of the explainer. We propose an approach for addressing this problem by representing the user's model as an abstraction of the domain model that the planner uses. We present algorithms for generating minimal explanations in cases where this abstract human model is not known. We reduce the problem of generating explanation to a search over the space of abstract models and investigate possible greedy approximations for minimal explanations. We also empirically show that our approach can efficiently compute explanations for a variety of problems.

研究の動機と目的

• AI説明システムが、AIエージェントより低い専門知識を持つユーザーを十分に考慮しないというギャップに対処すること。
• ユーザーの理解を、ロボットの詳細なドメインモデルの妥当な抽象化としてモデル化し、カスタマイズされた説明を可能にすること。
• ユーザーの抽象モデルが不明または不完全な場合に、最小限の説明を効率的に生成するためのアルゴリズムを開発すること。
• 対照的推論を用いて、ロボットの実際の行動と一致させるために、ユーザーのモデルを更新する具象化を通じてモデルの一致を実現すること。
• 説明が完全かつ単調的であり、ユーザーの専門知識のレベルに応じて適応可能であり、ユーザーのモデルに関する事前の知識を仮定しないこと。

提案手法

• ユーザーのモデルを、ロボットのドメインモデルの抽象化として表現し、忠実度が向上する階層的ラティスを形成する。
• ユーザーが提供するフォイル（反例行動）を用いて、ユーザーのモデルとロボットの実際の計画との間の不一致を特定する。
• 説明生成を、不一致を解消する最小の具象化を求めるラティス上の探索問題として定式化する。
• 計算コストを削減しつつ、説明の最小性と正しさを保つために、貪欲な近似戦略を適用する。
• モデル具象化を段階的な更新メカニズムとして統合し、ロボットの実際の行動と制約に合わせてユーザーのモデルを段階的に整合させる。
• 既存の計画形式（例：PDDL）を活用し、抽象化に配慮した説明生成を可能にする拡張を施す。

実験結果

リサーチクエスチョン

• RQ1 AIエージェントより低い専門知識を持つユーザーに適した説明をどのように生成できるか？
• RQ2 ユーザーが反例（反例行動）を提示した場合に、その混乱を解消する最小の説明は何か？
• RQ3 ユーザーの抽象モデルが不明な場合に、それを推定し、効果的な説明を生成するにはどうすればよいか？
• RQ4 抽象化の階層的ラティスは、多様なユーザーの専門知識レベルに応じて、効率的かつスケーラブルな説明生成を可能にするか？
• RQ5 一般のモデル一致手法と比較して、フォイルを用いることで、説明生成の効率性と関連性がどのように向上するか？

主な発見

• HELMフレームワークは、ユーザーが提供したフォイルを解消するための最小限の具象化を、抽象モデルのラティスを探索することで、最小限でユーザー固有の説明を効果的に生成した。
• 標準的なIPCドメインにおける実証的評価から、複雑な計画問題に対しても、このアプローチが効率的に説明を計算できることを示した。
• フォイルを説明生成の駆動要因として用いることで、一般的なモデル一致手法と比較して、より関連性が高く文脈に適した説明が得られた。
• 貪欲な近似戦略は、説明の質と最小性を維持しつつ、計算コストを顕著に削減した。
• ユーザーのモデルを標的的な情報の追加によって段階的に更新するモデル具象化は、完全なモデル再構築を必要とせず、モデル一致を効果的に達成することがわかった。
• このフレームワークはモデルの不確実性に対しても頑健であり、最も具体的なモデルに対する総当たり的チェックを避けることで、従来のMRPベースのアプローチよりもスケーラビリティに優れている。