[论文解读] JEDAI: A System for Skill-Aligned Explainable Robot Planning

Naman Shah, Pulkit Verma+2 more|arXiv (Cornell University)|Oct 31, 2021

Explainable Artificial Intelligence (XAI)被引用 5

一句话总结

JEDAI 是一种新颖的 AI 系统，使非专家用户能够通过视觉化的 Blockly 界面创建可执行的机器人计划，通过集成任务规划与运动规划，将高层级任务与底层机器人动作对齐。它利用用户特定的模型估计，提供个性化的自然语言解释，说明计划失败的原因，从而在教育和推广场景中增强用户对机器人能力与局限性的理解。

ABSTRACT

This paper presents JEDAI, an AI system designed for outreach and educational efforts aimed at non-AI experts. JEDAI features a novel synthesis of research ideas from integrated task and motion planning and explainable AI. JEDAI helps users create high-level, intuitive plans while ensuring that they will be executable by the robot. It also provides users customized explanations about errors and helps improve their understanding of AI planning as well as the limits and capabilities of the underlying robot system.

研究动机与目标

• 解决帮助非专家用户在教育和推广环境中理解并有效使用人工智能驱动的机器人所面临的挑战。
• 通过将用户计划与机器人能力对齐，弥合高层级、直观的任务规划与底层机器人执行之间的差距。
• 为计划失败提供基于用户特定的对比性解释，反映用户当前的理解水平和知识程度。
• 创建一个可访问、交互式的系统，通过模拟和实时反馈促进信任与学习。
• 以一种可扩展的方式将可解释 AI 与任务规划和运动规划相结合，适应两个领域技术的进步。

提出的方法

• JEDAI 使用基于 Blockly 的可视化界面，允许用户通过拖放类型安全的动作模块来构建高层级动作计划。
• 它采用分层专业知识水平建模（HELM）算法，估计用户对机器人的心理模型，并为计划错误生成对比性解释。
• 通过识别最具认知显著性的先决条件失败，并利用难度感知成本函数进行优化，计算个性化解释。
• 自然语言模板将符号化规划结构（例如，'pickup(plank_i, gripper_left)'）转换为人类可读的描述，如'用左夹爪抓取木板_i'。
• ATM-MDP 任务与运动规划器通过基于采样的运动规划，将高层级计划细化为可执行的低层级运动序列。
• 成功计划在 OpenRAVE 模拟器中可视化，使用户能够在三维模拟环境中观察机器人执行过程。

实验结果

研究问题

• RQ1 系统如何帮助非专家用户创建既直观又可执行的机器人计划？
• RQ2 个性化、对比性解释在多大程度上能提升用户对机器人计划失败原因的理解？
• RQ3 系统在多大程度上能够以准确且可解释的方式，将用户高层级意图与底层机器人能力对齐？
• RQ4 结合任务规划、运动规划与可解释 AI 的统一框架，是否能增强教育机器人的信任感与学习效果？
• RQ5 如何生成符号化规划元素的自然语言描述，以降低非专家的认知负担？

主要发现

• JEDAI 成功利用 ATM-MDP 规划器将用户创建的高层级计划转换为可执行的低层级运动序列，在计划有效时确保正确性。
• 系统通过识别最具认知相关性的先决条件违反情况，为计划失败生成个性化、对比性解释，从而减少用户困惑。
• 通过使用 HELM 估计用户心理模型，JEDAI 将解释内容适配至用户理解水平，从而提升学习效果。
• 自然语言模板的集成显著降低了符号化规划形式与人类理解之间的认知障碍。
• 该系统在实际机器人应用中得到验证，使用 Fetch 和 YuMi 机器人，完整源代码与预配置虚拟机可供重用。
• JEDAI 的模块化架构可随底层任务规划、运动规划与解释生成技术的进步而扩展。