[论文解读] Conformal Temporal Logic Planning using Large Language Models

Jun Wang, Jiaming Tong+3 more|arXiv (Cornell University)|Sep 18, 2023

Natural Language Processing Techniques被引用 5

一句话总结

该论文提出 HERACLEs，一种分层的符合性规划器，利用大语言模型（LLMs）生成基于自然语言（NL）指定任务的机器人规划，同时在基于自然语言的原子命题上使用线性时序逻辑（LTL）。通过整合基于自动机的任务分解、用于规划生成的 LLM 以及用于不确定性感知正确性评估的符合性预测，HERACLEs 确保了任务满足的概率保证，并动态决定何时请求帮助，在移动操作任务中相较于先前方法展现出更高的效率和可靠性。

ABSTRACT

This paper addresses planning problems for mobile robots. We consider missions that require accomplishing multiple high-level sub-tasks, expressed in natural language (NL), in a temporal and logical order. To formally define the mission, we treat these sub-tasks as atomic predicates in a Linear Temporal Logic (LTL) formula. We refer to this task specification framework as LTL-NL. Our goal is to design plans, defined as sequences of robot actions, accomplishing LTL-NL tasks. This action planning problem cannot be solved directly by existing LTL planners because of the NL nature of atomic predicates. To address it, we propose HERACLEs, a hierarchical neuro-symbolic planner that relies on a novel integration of (i) existing symbolic planners generating high-level task plans determining the order at which the NL sub-tasks should be accomplished; (ii) pre-trained Large Language Models (LLMs) to design sequences of robot actions based on these task plans; and (iii) conformal prediction acting as a formal interface between (i) and (ii) and managing uncertainties due to LLM imperfections. We show, both theoretically and empirically, that HERACLEs can achieve user-defined mission success rates. Finally, we provide comparative experiments demonstrating that HERACLEs outperforms LLM-based planners that require the mission to be defined solely using NL. Additionally, we present examples demonstrating that our approach enhances user-friendliness compared to conventional symbolic approaches.

研究动机与目标

• 解决使用自然语言（NL）指定复杂机器人任务时保持形式化正确性保证的挑战。
• 克服现有 LTL 规划器依赖低层次系统状态谓词的局限性，这些谓词需要手动操作并增加公式复杂度。
• 开发一种规划框架，能够对基于 LLM 生成的、针对自然语言指定子任务的规划进行正确性推理，并量化不确定性。
• 实现在复杂或模糊任务场景下，动态决策是否继续执行规划或请求协助，从而提高鲁棒性。
• 在最小化人为干预的前提下，提供任务满足的理论概率保证，通过置信度感知规划实现。

提出的方法

• 定义基于自然语言子任务（例如，'将水送到桌边'）完成时为真的原子命题的 LTL 任务，而非基于低层次系统状态。
• 利用自动机理论和一种先验任务分解算法，确定能推进任务进度的下一个自然语言指定的子任务。
• 使用大语言模型（LLMs）为选定的自然语言子任务生成机器人规划，实现复杂动作的自然语言对齐。
• 应用符合性预测（CP）构建候选规划集合，使得该集合以用户指定的概率（例如，95%）包含真实规划，从而实现不确定性感知的决策。
• 将 CP 与基于 LLM 的规划生成集成，以评估置信度：若预测集合过大或不包含有效规划，则系统向 LTL 规划器或人类操作员请求帮助。
• 使用标准低层次控制器执行最终规划，整个流程确保了概率性任务满足保证。

Figure 1 : Graphical depiction of a semantic environment with unknown geometric structure.

实验结果

研究问题

• RQ1 基于自然语言的原子命题定义的 LTL 任务，是否能生成比传统基于系统状态的谓词更短、更高效的 LTL 公式？
• RQ2 如何有效且安全地将 LLM 集成到基于自然语言指定任务的机器人规划中，同时确保正确性并避免幻觉？
• RQ3 符合性预测能否用于量化 LLM 生成的机器人规划中的不确定性，并指导动态协助请求？
• RQ4 不同符合性预测算法（例如，RAPS 与普通 CP）对预测集合大小、运行时间及任务成功率有何影响？
• RQ5 与现有 LTL 和基于自然语言的规划器相比，所提出的 HERACLEs 框架在计算效率、正确性和模糊场景下的鲁棒性方面表现如何？

主要发现

• 基于自然语言的原子命题定义的 LTL 公式，相比基于低层次系统状态的公式显著更短：在双次配送任务中，基于自然语言的公式仅需 4 个状态的 DFA，而基于系统状态的版本则需要 25 个状态和 225 条边的 DFA。
• 当使用 RAPS 进行符合性预测时，HERACLEs 在单一预测集合上实现了 100% 的任务满足率，超过 95% 的目标值，置信水平为 99%（δ = 0.01）。
• 普通 CP 算法的平均预测集合构建时间（1.26×10⁻⁶ 秒）短于 RAPS（3.35×10⁻⁵ 秒），但 RAPS 生成的预测集合更小，从而减少了对协助的需求。
• 在案例研究中，HERACLEs 有效检测到无法到达的目标（例如，被阻塞的可乐 #2），并请求 LTL 规划器协助，后者生成了替代子任务以恢复任务进度。
• 当出现歧义时（例如，水和可乐都符合'饮料'的定义），系统通过 CP 正确识别出不确定性并请求人工输入，最终成功解决。
• 该框架在复杂场景中表现出强鲁棒性：使用普通 CP 生成的 97.2% 的规划满足其 LTL 规范，而使用 RAPS 时达到 100%，证实了理论保证的可靠性。

Figure 2 : DFA corresponding to $\phi=\Diamond\pi_{2}\wedge(\neg\pi_{1}{\mathcal{U}}\pi_{2})$ . $\pi_{1}$ is “Deliver the water bottle to ${\mathbf{x}}_{3}$ ” and $\pi_{2}$ is “Deliver a Coke to ${\mathbf{x}}_{3}$ ”. The red dashed edges correspond to an infeasible DFA transition.