[論文レビュー] Conformal Temporal Logic Planning using Large Language Models

Jun Wang, Jiaming Tong+3 more|arXiv (Cornell University)|Sep 18, 2023

Natural Language Processing Techniques被引用数 5

ひとこと要約

本稿では、自然言語（NL）で指定されたタスクのためのロボット計画を生成するために大規模言語モデル（LLMs）を用い、自然言語に基づくアトミック命題における線形時相論理（LTL）を活用する階層的コンフォーマルプランナーパラダイムであるHERACLEsを提案する。自動状態分解、LLMsによる計画生成、不確実性を考慮した正しさの評価のためのコンフォーマル予測を統合することで、HERACLEsはミッションの満たし確率的保証を提供するとともに、支援を求めるタイミングを動的に決定し、モバイルマニピュレーションタスクにおいて従来手法を上回る効率性と信頼性を実現する。

ABSTRACT

This paper addresses planning problems for mobile robots. We consider missions that require accomplishing multiple high-level sub-tasks, expressed in natural language (NL), in a temporal and logical order. To formally define the mission, we treat these sub-tasks as atomic predicates in a Linear Temporal Logic (LTL) formula. We refer to this task specification framework as LTL-NL. Our goal is to design plans, defined as sequences of robot actions, accomplishing LTL-NL tasks. This action planning problem cannot be solved directly by existing LTL planners because of the NL nature of atomic predicates. To address it, we propose HERACLEs, a hierarchical neuro-symbolic planner that relies on a novel integration of (i) existing symbolic planners generating high-level task plans determining the order at which the NL sub-tasks should be accomplished; (ii) pre-trained Large Language Models (LLMs) to design sequences of robot actions based on these task plans; and (iii) conformal prediction acting as a formal interface between (i) and (ii) and managing uncertainties due to LLM imperfections. We show, both theoretically and empirically, that HERACLEs can achieve user-defined mission success rates. Finally, we provide comparative experiments demonstrating that HERACLEs outperforms LLM-based planners that require the mission to be defined solely using NL. Additionally, we present examples demonstrating that our approach enhances user-friendliness compared to conventional symbolic approaches.

研究の動機と目的

• 自然言語（NL）による複雑なロボットミッションの指定の課題に対処するが、同時に形式的正しさ保証を維持する。
• 低レベルのシステム状態述語に依存する従来のLTLプランナの限界を克服する。これらは手作業による作成を要し、論理式の複雑さを増加させる。
• LLMによって生成された計画の正しさを、不確実性の定量化を伴って、自然言語で指定されたサブタスクについて推論できる計画フレームワークを開発する。
• 計画を実行するか、支援を求めるかを動的に意思決定することで、複雑または曖昧なタスク状況における耐障害性を向上させる。
• 人間の干渉を最小限に抑えつつ、信頼度に応じた計画によって、ミッション満たしの理論的確率的保証を提供する。

提案手法

• 高レベルの自然言語サブタスク（例：「テーブルに水を届ける」）が完了したときに真となるような、自然言語に基づくアトミック命題におけるLTLタスクを定義する。低レベルのシステム状態ではなく、こうした高レベルのサブタスクを対象とする。
• 自動状態理論と事前定義されたタスク分解アルゴリズムを用いて、ミッション進行を進める次の自然言語で指定されたサブタスクを特定する。
• 大規模言語モデル（LLMs）を用いて、選択された自然言語サブタスクのためのロボット計画を生成する。これにより、複雑な行動の自然言語への対応付けが可能になる。
• コンフォーマル予測（CP）を適用し、ユーザー指定確率（例：95％）で真の計画を含む予測セットを構築する。これにより、不確実性を考慮した意思決定が可能になる。
• CPをLLMベースの計画生成と統合し、信頼度を評価する。予測セットが大きすぎる、または有効な計画を含まない場合、LTLプランナーや人間のオペレータから支援を要請する。
• 標準的な低レベルコントローラーを用いて最終計画を実行する。全体のパイプラインは、確率的ミッション満たし保証を保証する。

Figure 1 : Graphical depiction of a semantic environment with unknown geometric structure.

実験結果

リサーチクエスチョン

• RQ1 自然言語に基づくアトミック命題におけるLTLタスクは、従来のシステム状態に基づく述語に比べ、より短く、より効率的なLTL論理式をもたらすか？
• RQ2 LLMを自然言語で指定されたタスクのためのロボット計画に、効果的かつ安全に統合できるか。正しさを保証し、幻覚を回避できるか？
• RQ3 コンフォーマル予測を用いて、LLMによって生成されたロボット計画の不確実性を定量化し、動的な支援要請を誘導できるか？
• RQ4 異なるコンフォーマル予測アルゴリズム（例：RAPS 対 通常のCP）は、予測セットのサイズ、実行時間、ミッション成功確率にどのような影響を及ぼすか？
• RQ5 提案されたHERACLEsフレームワークは、既存のLTLおよび自然言語ベースのプランナと比較して、計算効率、正しさ、曖昧な状況下での耐障害性において優れているか？

主な発見

• 自然言語に基づくアトミック命題におけるLTL論理式は、低レベルのシステム状態に基づくものよりも著しく短くなる。2回の配達タスクにおいて、自然言語ベースの論理式は4状態のDFAを生成するが、システム状態バージョンでは25状態・225エッジを要するDFAが必要となる。
• RAPSを用いたコンフォーマル予測において、HERACLEsはシングルトン予測セットで100％のミッション満たし率を達成し、95％の目標を99％の信頼度（δ = 0.01）で上回った。
• 通常のCPアルゴリズムは、RAPS（3.35×10⁻⁵秒）よりも平均して予測セット構築時間を短く（1.26×10⁻⁶秒）、しかしRAPSはより小さな予測セットを生成し、支援の必要性を低減した。
• 事例研究において、HERACLEsは到達不能なゴール（例：遮断されたコke #2）を正しく検出し、LTLプランナーに支援を要請。これにより、ミッション進行を回復する代替サブタスクが生成された。
• 曖昧性が生じた場合（例：水とコーラの両方が「ドリンク」として該当する）、システムはCPにより不確実性を正しく同定し、人間からの入力を要請。これにより正常に解決が図られた。
• 複雑なシナリオにおいても、フレームワークは耐障害性を示した。通常のCPを用いた場合97.2％、RAPSを用いた場合100％の計画がLTL仕様を満たした。理論的保証が確認された。

Figure 2 : DFA corresponding to $\phi=\Diamond\pi_{2}\wedge(\neg\pi_{1}{\mathcal{U}}\pi_{2})$ . $\pi_{1}$ is “Deliver the water bottle to ${\mathbf{x}}_{3}$ ” and $\pi_{2}$ is “Deliver a Coke to ${\mathbf{x}}_{3}$ ”. The red dashed edges correspond to an infeasible DFA transition.