[论文解读] Axiom Learning and Belief Tracing for Transparent Decision Making in Robotics

Tiago Mota, Mohan Sridharan|arXiv (Cornell University)|Oct 20, 2020

AI-based Problem Solving and Planning参考文献 8被引用 4

一句话总结

本文提出了一种集成机器人架构，结合非单调逻辑推理、深度学习和决策树归纳，使机器人能够生成按需的、关于决策、信念和假设行为的关联性解释。通过从数据中学习新公理并用其指导推理，该系统显著提升了解释的准确性——在使用学习到的公理时，计划和信念证明任务的精确率和召回率均达到100%。

ABSTRACT

A robot's ability to provide descriptions of its decisions and beliefs promotes effective collaboration with humans. Providing such transparency is particularly challenging in integrated robot systems that include knowledge-based reasoning methods and data-driven learning algorithms. Towards addressing this challenge, our architecture couples the complementary strengths of non-monotonic logical reasoning, deep learning, and decision-tree induction. During reasoning and learning, the architecture enables a robot to provide on-demand relational descriptions of its decisions, beliefs, and the outcomes of hypothetical actions. These capabilities are grounded and evaluated in the context of scene understanding tasks and planning tasks performed using simulated images and images from a physical robot manipulating tabletop objects.

研究动机与目标

• 使机器人能够在复杂、动态环境中按需提供关于决策、信念和假设行为的关联性解释。
• 解决集成系统中结合基于知识的推理与数据驱动学习所带来的可解释性挑战。
• 开发一种系统，从经验中学习控制动作前提条件和效果的新公理，提升透明度。
• 实现从初始状态到当前状态的信念演化过程的自动追踪。
• 在涉及场景理解与规划的模拟和实际机器人场景中评估该架构。

提出的方法

• 该架构使用答案集编程（ASP）进行非单调逻辑推理，以建模领域动态并支持信念追踪。
• 调整深度学习模型以执行感知任务，如从图像中识别物体和空间关系。
• 使用决策树归纳从观测数据和推理结果中学习新公理（前提条件和效果）。
• 通过从推理轨迹中检索相关文字来构建解释，同时使用已知和学习到的公理。
• 当现有知识不足以证明决策或信念时，系统会动态触发学习过程。
• 解释以对象、动作和属性的关联描述形式生成，基于逻辑推理和学习到的约束条件。

实验结果

研究问题

• RQ1 机器人系统如何结合基于知识的推理与数据驱动学习，生成准确、按需的决策与信念解释？
• RQ2 学习新公理在多大程度上提升了机器人任务中解释生成的精确率和召回率？
• RQ3 该系统能否自动利用逻辑推理，从初始知识追踪信念演化至当前状态？
• RQ4 推理与学习的集成如何增强机器人决策的透明度与可靠性？
• RQ5 学习到的公理对解释规划与感知中的假设或反事实情景有何影响？

主要发现

• 在使用学习到的公理进行推理时，模拟场景中计划描述和信念证明任务的解释生成精确率和召回率均达到100%。
• 使用学习到的公理显著提升了性能，特别是在未执行动作的问题上，物理机器人实验中召回率从63.01%提升至100%。
• 即使没有使用学习到的公理，系统仍保持合理性能（例如，计划描述的精确率为71.85%），表明现有知识已具备良好鲁棒性。
• 解释中的错误极为罕见，通常表现为过度指定（多余文字），表明解释构建具有高度保真度。
• 当与目标相关的公理被移除时，性能显著下降，证实了这些公理在准确解释生成中的关键作用。
• 系统对传感器和执行器噪声具有鲁棒性，识别错误、约束学习错误和操作错误率分别为15%、5–10%和15%，同时仍能生成准确解释。