[论文解读] The Emerging Landscape of Explainable AI Planning and Decision Making
本文对可解释人工智能规划（XAIP）进行了全面综述，梳理了从传统基于模型的方法到现代人机协同系统中解释技术的演变历程。文章识别出三类关键角色——终端用户、领域设计者和算法设计者，提出了跨规划维度的解释框架，并指出新兴趋势，如将可解释性整合到推理过程中，表明可解释规划在人机协作中既切实可行又具有显著优势。
In this paper, we provide a comprehensive outline of the different threads of work in Explainable AI Planning (XAIP) that has emerged as a focus area in the last couple of years and contrast that with earlier efforts in the field in terms of techniques, target users, and delivery mechanisms. We hope that the survey will provide guidance to new researchers in automated planning towards the role of explanations in the effective design of human-in-the-loop systems, as well as provide the established researcher with some perspective on the evolution of the exciting world of explainable planning.
研究动机与目标
- 映射可解释人工智能规划（XAIP）的演变格局，以应对日益增长的人机协作与信任需求。
- 对比现代XAIP方法与早期可解释AI工作的差异，强调技术、目标用户及交付机制的转变。
- 识别并分析终端用户、领域设计者和算法设计者在塑造解释需求方面所扮演的独立角色。
- 综述基于计划的解释技术，包括摘要生成、语言化表达以及心理模型调和。
- 探索新兴趋势，如将可解释性直接整合到规划过程本身，以同时提升透明度与效率。
提出的方法
- 基于三类不同用户角色（终端用户、领域设计者、算法设计者）对解释需求进行分类。
- 使用标准自动化规划框架形式化规划任务，聚焦于计划解释，而非元规划或失败分析。
- 通过与空心理模型进行模型调和，提出使用最小因果链子集识别技术来生成计划中每个动作的解释依据，实现计划摘要生成。
- 采用抽象方法——包括状态抽象（忽略低重要性特征）和时间抽象（提取子目标）——以简化计划的呈现方式。
- 应用心理学与计算模型（如逆向强化学习、模仿学习）生成用户可基于任务知识完成的局部计划。
- 提出在推理阶段集成可解释性，通过将解释需求融入搜索过程，证明其计算可行性（exact2020）。
实验结果
研究问题
- RQ1与早期XAI工作相比，可解释规划的技术、目标用户及交付机制如何演变？
- RQ2在自动化规划系统中，终端用户、领域设计者和算法设计者对解释具有哪些独特的解释需求与期望？
- RQ3计划摘要与语言化技术在提升长周期或复杂计划可理解性方面能发挥多大作用？
- RQ4在不牺牲效率的前提下，多大程度上可将决策解释需求直接整合到规划过程本身？
- RQ5心理模型与用户特定特征在生成有效、上下文感知的解释中起到何种作用？
主要发现
- 可解释人工智能规划（XAIP）已从事后解释发展为集成推理机制，近期研究表明，加入可解释性约束的规划在计算成本上与经典规划无异。
- 通过与空心理模型进行模型调和，可识别出用于解释每个动作的最小因果链子集，为有效计划摘要提供基础。
- 状态抽象与时间抽象技术（如忽略低重要性特征或提取子目标）可实现可扩展且支持用户钻取的计划表示。
- 利用心理上合理的模型（如受逆向强化学习启发）生成局部计划，使用户能基于任务知识推断完整计划，从而提升参与度与理解力。
- 通过基于特征的表示，可回答用户特定查询（如“在何种条件下执行动作ai？”），实现策略分析中的交互式解释。
- 基于LTL的计划轨迹对比使用户能够理解策略与替代方案之间的差异，从而洞察决策权衡与鲁棒性。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。