[論文レビュー] LLM-Assist: Enhancing Closed-Loop Planning with Language-Based Reasoning

S P Sharan, Francesco Pittaluga+2 more|arXiv (Cornell University)|Dec 30, 2023

Natural Language Processing Techniques被引用数 6

ひとこと要約

LLM-Assistは、自律走行における複雑で高不確実性の状況において、ルールベースのプランナ（PDM-Closed）を強化するために動的に大規模言語モデル（LLMs）を呼び出すハイブリッドプランニングフレームワークを提案する。プランナの出力スコアに基づいてLLMが計画パラメータを生成または最適化することで、閉ループリアクティブおよび非リアクティブな設定においてnuPlanベンチマークで最先端の性能を達成した。

ABSTRACT

Although planning is a crucial component of the autonomous driving stack, researchers have yet to develop robust planning algorithms that are capable of safely handling the diverse range of possible driving scenarios. Learning-based planners suffer from overfitting and poor long-tail performance. On the other hand, rule-based planners generalize well, but might fail to handle scenarios that require complex driving maneuvers. To address these limitations, we investigate the possibility of leveraging the common-sense reasoning capabilities of Large Language Models (LLMs) such as GPT4 and Llama2 to generate plans for self-driving vehicles. In particular, we develop a novel hybrid planner that leverages a conventional rule-based planner in conjunction with an LLM-based planner. Guided by commonsense reasoning abilities of LLMs, our approach navigates complex scenarios which existing planners struggle with, produces well-reasoned outputs while also remaining grounded through working alongside the rule-based approach. Through extensive evaluation on the nuPlan benchmark, we achieve state-of-the-art performance, outperforming all existing pure learning- and rule-based methods across most metrics. Our code will be available at https://llmassist.github.io.

研究の動機と目的

• 純粋な学習ベースおよびルールベースのプランナが多様で複雑な走行シナリオを処理する際の限界を克服すること。
• 閉ループ自律走行において、日常的常識的推論を用いて計画のロバスト性を向上させることができるかを調査すること。
• ベースプランナの信頼度が低い場合にのみLLMを効果的に活用するハイブリッドシステムを構築し、安全性と効率性を確保すること。
• 物理的プランナーパrameterに基づいた解釈可能で根拠のある計画意思決定を生み出すこと。
• LLMが既存のルールベースプランナを置き換えることなく、ベンチマーク評価で優れた性能を達成できることを実証すること。

提案手法

• スコアベースのトリガー機構が、ベースプランナの出力スコア（例：衝突リスク、快適性）が事前に定義されたしきい値を下回った場合にLLMを起動する。
• 制約なしのLLMプランナは、自然言語によるシーン記述から直接2次元の軌道座標を生成し、プランナーパrameterの直接制御を回避する。
• パラメータ制御モードでは、LLMがベースプランナに意味のある計画パラメータ（例：目標速度、中央線オフセット）を出力可能にし、物理的根拠を保証する。
• LLMは、認識および予測モジュールから得られる構造化されたシーン記述を処理し、文脈に配慮した推論を可能にする。
• LLM推論にはGPT-3およびGPT-4が使用され、最適なパフォーマンスを得るために温度ハイパーパrameterが最適化された。
• オープンソースのLlama2-7Bモデルも評価されたが、微調整なしでは一貫性のない出力フォーマットのため、不適切であると判明した。

実験結果

リサーチクエスチョン

• RQ1 LLMは、低頻度の複雑なシナリオにおいて日常的常識的推論を提供することで、自律走行計画のパフォーマンスを向上させることができるか？
• RQ2 LLMは、リアルタイム性能を損なわず、安全性、効率性、快適性を向上させるために、既存のルールベースプランナとどのように統合できるか？
• RQ3 LLMの関与を最適にトリガーする戦略は何か——プランナの信頼度スコアに基づくか、直接的な軌道生成か？
• RQ4 異なるLLMアーキテクチャ（例：GPT-3対GPT-4）およびハイパーパrameter（例：温度）は、計画結果にどのように影響するか？
• RQ5 微調整なしで、Llama2のようなオープンソースLLMは、このハイブリッド計画フレームワークで効果的に使用可能か？

主な発見

• LLM-Assistは、閉ループリアクティブおよび非リアクティブな両設定において、nuPlanベンチマークで最先端のパフォーマンスを達成し、すべての先行する学習ベースおよびルールベース手法を上回った。
• LLM-Assistのパラメータ制御モードは、特にベースプランナが失敗した、もしくは最適でない結果を出したシナリオにおいて、安全性および快適性の指標を顕著に改善した。
• GPT-3は温度1.4で最も優れたパフォーマンスを示し、制約なしの設定では生成の多様性が計画結果を向上させたことが示された。
• GPT-4は制約なし計画においてわずかにGPT-3を上回る性能を示したが、制約ありのパラメータ制御設定ではGPT-3がわずかに優れていた。
• Llama2-7Bは、コンテキスト例を用いても、微調整なしでは一貫性のないフォーマットの出力を示したため、タスクに不適切であると判明した。
• 定性的な分析から、LLM-Assistは、混雑した交通状況におけるレーン変更などの複雑な操作について、根拠に基づいた解釈可能な計画を生成できることを確認した。これは、ベースプランナが効果的に処理できなかった。