[论文解读] Hierarchical Expertise-Level Modeling for User Specific Robot-Behavior Explanations

Sarath Sreedharan, Siddharth Srivastava+1 more|arXiv (Cornell University)|Feb 19, 2018

AI-based Problem Solving and Planning参考文献 16被引用 6

一句话总结

本文提出分层专业水平建模（HELM）框架，通过将用户的心理模型建模为机器人领域模型的抽象版本，生成用户特定的机器人行为解释。该框架利用反例（反事实）引导在抽象层次的格结构中进行最小化解释生成，实现高效、上下文感知的用户模型具体化，并在IPC领域中进行了实证验证。

ABSTRACT

There is a growing interest within the AI research community to develop autonomous systems capable of explaining their behavior to users. One aspect of the explanation generation problem that has yet to receive much attention is the task of explaining plans to users whose level of expertise differ from that of the explainer. We propose an approach for addressing this problem by representing the user's model as an abstraction of the domain model that the planner uses. We present algorithms for generating minimal explanations in cases where this abstract human model is not known. We reduce the problem of generating explanation to a search over the space of abstract models and investigate possible greedy approximations for minimal explanations. We also empirically show that our approach can efficiently compute explanations for a variety of problems.

研究动机与目标

• 解决现有AI解释系统未能考虑用户专业水平低于AI智能体的问题。
• 将用户理解建模为机器人详细领域模型的合理抽象，以实现定制化解释。
• 开发高效算法，在用户抽象模型未知或不完整时生成最小化解释。
• 通过具体化实现模型调和——利用对比推理，逐步更新用户的模型，使其与机器人的实际行为对齐。
• 确保解释既完整又单调，能适应不同用户专业水平，且无需预知用户模型。

提出的方法

• 将用户的模型表示为机器人领域模型的抽象，形成抽象程度逐步提高的分层格结构。
• 利用用户提供的反例（反事实行为）识别用户模型与机器人实际计划之间的差异。
• 将解释生成建模为在抽象模型格中搜索，以找到能解决反例的最小具体化方案。
• 应用贪心近似策略，在保持解释最小化和正确性的前提下降低计算成本。
• 将模型具体化作为机制，逐步更新用户的模型，使其与机器人的实际行为和约束对齐。
• 利用现有规划形式化方法（如PDDL），并扩展其功能以支持抽象感知的解释生成。

实验结果

研究问题

• RQ1 如何生成针对专业水平低于AI智能体的用户量身定制的解释？
• RQ2 当用户提出反例（反事实行为）时，能够解决其困惑的最小解释是什么？
• RQ3 当用户抽象模型未知时，系统如何推断其模型，并利用该模型生成有效解释？
• RQ4 分层抽象格是否能支持在多样化用户专业水平下高效且可扩展的解释生成？
• RQ5 与通用模型调和相比，使用反例是否能提升解释生成的效率和相关性？

主要发现

• HELM框架通过在抽象模型格中搜索，成功生成了最小化、用户特定的解释，以解决用户提供的反例。
• 在标准IPC领域的实证评估表明，该方法即使在复杂规划问题中也能高效计算解释。
• 将反例作为驱动解释生成的机制，相比通用模型调和，能生成更相关、更符合上下文的解释。
• 贪心近似策略显著降低了计算成本，同时保持了解释的质量和最小化特性。
• 模型具体化——通过有针对性的信息更新用户模型——在无需完整重建模型的情况下，有效实现了模型调和。
• 该框架对模型不确定性具有鲁棒性，并通过避免对最具体模型进行全面检查，相比传统MRP方法展现出更好的可扩展性。