[論文レビュー] Golfer: Trajectory Prediction with Masked Goal Conditioning MnM Network

Xiaocheng Tang, Soheil Sadeghi Eshkevari+4 more|arXiv (Cornell University)|Jul 2, 2022

Autonomous Vehicle Technology and Safety被引用数 6

ひとこと要約

本論文では、マスクドゴールコンディショニングMnM（ミックスアンドマッチ）ネットワークを用いた、自律走行車両向けの新しい軌道予測モデルGolferを提案する。標準のアテンションを効率的でプーリングに基づくMnMブロックに置き換え、階層的なシーンエンコーディングとマスクドゴールコンディショニングを採用することで、2022年Waymo Open Dataset軌道予測チャレンジにおいてminADEで1位、Soft mAPで2位という最先端の性能を達成した。

ABSTRACT

Transformers have enabled breakthroughs in NLP and computer vision, and have recently began to show promising performance in trajectory prediction for Autonomous Vehicle (AV). How to efficiently model the interactive relationships between the ego agent and other road and dynamic objects remains challenging for the standard attention module. In this work we propose a general Transformer-like architectural module MnM network equipped with novel masked goal conditioning training procedures for AV trajectory prediction. The resulted model, named golfer, achieves state-of-the-art performance, winning the 2nd place in the 2022 Waymo Open Dataset Motion Prediction Challenge and ranked 1st place according to minADE.

研究の動機と目的

• 軌道予測におけるエゴ・エージェントの相互作用を、動的で道路のオブジェクトを含む環境でモデル化する際の標準アテンション機構の非効率性を解消すること。
• トランスフォーマーにおける自己アテンションの代替手段として、より効率的で表現力に富んだ代替手法を考案すること。
• 階層的ベクトルベースのシーン表現とマスクドゴールコンディショニングを用いて、軌道予測の性能を向上させること。
• 新規で効率的なアーキテクチャを用いて、Waymo Open Dataset軌道予測チャレンジで最先端の結果を達成すること。
• 単純なプーリングベースの演算が、軌道モデリングにおいてアテンション機構と同等またはそれを上回る性能を達成できることを示すこと。

提案手法

• コアとなる構成要素はMnMブロックであり、これはアテンションの一般化であり、トークンとコンテキストベクトル間の相互作用をモデル化するための「ミックス操作」（例：最大プーリング）と「マッチ操作」（例：連結または要素ごとの乗算）を用いる。
• MnMブロックは、エージェントおよび道路オブジェクトの埋め込みシーケンス上で動作し、不完全または部分的な入力を処理するためにバイナリマスクを用いる。
• 階層的シーンエンコーディングは、道路ポリラインとエージェントの軌道をコンテキストベクトルを伴う点列として表現し、複数レベルの特徴抽出を可能にする。
• 相互作用モデリングは、複数ヘッドのMnMブロックを用いて実施され、ポリラインとエージェントの履歴特徴をエゴ・エージェント特徴と組み合わせて、要素ごとの乗算と最大プーリングにより特徴を集約する。
• エンコーダーはスタックされたMnMブロックを用いて、局所的特徴、ポリラインレベル特徴、シーンレベル特徴を抽出し、デコーダー用の潜在特徴ベクトルを生成する。
• デコーダーは、複数の将来の軌道とその確率を予測するための独立したMLPブランチを用い、最終的な出力を重み付きクラスタリング（k-means）により統合して最終予測を生成する。

実験結果

リサーチクエスチョン

• RQ1 プーリングに基づく、アテンションを含まないアーキテクチャが、自律走行車両の軌道予測において、標準のトランスフォーマーと同等またはそれ以上の性能を達成できるか？
• RQ2 複雑な都市部の複数の種類のエージェントに対して、マスクドゴールコンディショニングは、軌道予測の正確性を向上させるのにどの程度有効か？
• RQ3 データ効率性と意味的表現力の観点から、階層的ベクトルベースのシーン表現は、ラスタライズドまたはポリラインベースの表現を上回るか？
• RQ4 単純で効率的なMnMブロックは、性能を犠牲にすることなく、アテンション機構を置き換えることができるか？
• RQ5 クラスタリングを用いたアンサンブルモデリングは、軌道予測のロバスト性と正確性をどの程度向上させるか？

主な発見

• Golferは、2022年Waymo Open Dataset軌道予測チャレンジでminADEで1位、Soft mAPで2位を達成した。
• MnMブロックにおいて、ミックス操作に最大プーリング、マッチ操作に連結を用いることで、標準アテンションよりも顕著に計算コストを低減しつつも強力な性能を達成した。
• 階層的シーンエンコーディングにより、高いデータ効率が達成され、道路ポリラインとエージェントの軌道からの意味的コンテキストが保持された。
• マスクドゴールコンディショニングにより、マスクされたゴール状態を条件として用いることで、多様で現実的と思われる将来の軌道を予測する能力が向上した。
• k-meansによるモデル出力のアンサンブル予測により、軌道の正確性とロバスト性が向上した。
• 本モデルは、単純なアテンションを含まないメカニズムが、軌道予測タスクにおいてアテンションベースのトランスフォーマーと同等またはそれを上回る性能を達成できることを示した。