[论文解读] Towards Explainable AI Planning as a Service
本文提出了可解释人工智能规划即服务（XAIPaaS），这是一种模块化框架，通过使用可信规划器和领域模型作为封装器，为用户问题（如“为何选A而非B？”）生成对比性解释。通过将假设性规划问题形式化并施加约束，系统重新规划以比较替代动作，使用户能够验证计划质量，并在使用其自身经验证的规划器和模型时，增强对安全关键应用中AI的信任。
Explainable AI is an important area of research within which Explainable Planning is an emerging topic. In this paper, we argue that Explainable Planning can be designed as a service -- that is, as a wrapper around an existing planning system that utilises the existing planner to assist in answering contrastive questions. We introduce a prototype framework to facilitate this, along with some examples of how a planner can be used to address certain types of contrastive questions. We discuss the main advantages and limitations of such an approach and we identify open questions for Explainable Planning as a service that identify several possible research directions.
研究动机与目标
- 为应对在安全关键规划应用中日益增长的可解释AI需求，用户必须信任其所使用的规划器和模型。
- 通过使用用户信任的规划器和领域模型生成对比性解释（即回答“为何选A而非B？”），实现替代计划的生成与比较。
- 设计一种模块化、与技术无关的框架，兼容任何符合PDDL 2.1标准的规划器和领域模型，确保互操作性并增强用户信任。
- 通过支持动态约束编译和重新规划，实现对用户迭代提问的响应，实现更深层次的解释优化。
- 识别在解释有效性、自动化以及与人机交互和认知科学整合方面存在的开放性研究挑战。
提出的方法
- 该框架作为现有规划系统的封装器，接收原始规划问题、领域模型和用户问题。
- 将用户问题转化为形式化约束，以修改原始领域模型，从而构建假设性规划问题。
- 系统在约束后的规划问题上调用原始规划器，生成可供比较的替代计划。
- 将约束编译进领域模型中，以保持一致性，确保替代计划在原始模型下仍可执行。
- 通过动态修改约束并重新运行规划器，支持迭代式用户提问。
- 实现了一个图形用户界面（GUI），用于可视化原始计划与替代计划之间的差异，以红色突出新增动作，蓝色突出删除动作。
实验结果
研究问题
- RQ1如何利用用户信任的规划器和领域模型而非独立的、可能不可信的系统，来生成对比性解释？
- RQ2在安全关键规划领域中，哪些类型的对比性问题对用户最为相关和有用？
- RQ3如何通过基于约束的模型修改，有效从用户问题构建假设性规划问题？
- RQ4构建模块化、可扩展的XAIP-as-a-service框架时，面临的关键技术与可用性挑战是什么？
- RQ5在实践中，如何评估对比性解释的有效性，特别是在用户信任与理解方面？
主要发现
- XAIPaaS框架通过在用户指定约束下重新规划，成功生成对比性解释，实现了原始计划与替代计划的比较。
- 该方法确保所有解释均基于用户信任的规划器和领域模型，保持了模型保真度并增强了用户信心。
- 基于PDDL 2.1的原型实现表明，该框架与现有规划器兼容，并支持动态约束注入，以实现迭代式解释优化。
- 可视化手段如因果图和GUI高亮能有效传达计划差异，新增动作以红色显示，删除动作以蓝色显示。
- 该框架已集成至ROSPlan，表明其在机器人学和现实世界AI规划系统中的实际应用潜力。
- 本文识别出若干关键研究方向，包括自动问题分解、用户研究验证，以及与可视化和认知科学的跨学科协同。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。