[論文レビュー] Trajformer: Trajectory Prediction with Local Self-Attentive Contexts for Autonomous Driving

Manoj Bhat, Jonathan Francis+1 more|arXiv (Cornell University)|Nov 30, 2020

Autonomous Vehicle Technology and Safety参考文献 16被引用数 18

ひとこと要約

Trajformerは、自律走行におけるマルチモーダルトラジェクトリ予測のための自己注意ベースのエンドツーエンドモデルを提案する。局所的かつエージェント中心のコンテキスト符号化を用いることで、予測精度と多様性を向上させる。Argoverseデータセットにおいて、minADE、minFDE、DAO、DACで顕著な向上を達成し、先行手法と比較してモデルサイズを60％以上削減した。

ABSTRACT

Effective feature-extraction is critical to models' contextual understanding, particularly for applications to robotics and autonomous driving, such as multimodal trajectory prediction. However, state-of-the-art generative methods face limitations in representing the scene context, leading to predictions of inadmissible futures. We alleviate these limitations through the use of self-attention, which enables better control over representing the agent's social context; we propose a local feature-extraction pipeline that produces more salient information downstream, with improved parameter efficiency. We show improvements on standard metrics (minADE, minFDE, DAO, DAC) over various baselines on the Argoverse dataset. We release our code at: https://github.com/Manojbhat09/Trajformer

研究の動機と目的

• 自律走行におけるマルチモーダルトラジェクトリ予測のためのエージェント間社会的コンテキストモデリングの限界を解消すること。
• 局所的自己注意を用いて動的シーン相互作用の特徴表現を強化することで、予測品質を向上させること。
• 最先端モデルと比較して、より良い性能を達成するとともに、モデルサイズを小さくし、パrameter効率を高めること。
• 局所的エージェント行動とマナーを捉えることで、より多様で妥当かつ社会的に妥当な将来のトラジェクトリを生成すること。
• Argoverseベンチマーク上で、包括的な定量的および定性的な評価を通じてモデルを検証すること。

提案手法

• モデルは、近隣エージェントからの顕著な特徴を抽出するため、局所的自己注意を用いたトランスフォーマー基盤のエンコーダーを採用する。このアプローチにより、直近の社会的コンテキストに焦点を当てる。
• ビジョントランスフォーマーを参考に、マップの投影クロッピングを用いて空間的事前知識を統合することで、シーンレベルの認識を強化する。
• 統一された自己注意バックボーンを介して、シーンからエージェント、エージェントからエージェントの両方のコンテキストを統合し、別々のエンコーダーを避ける。
• 各エージェントの周囲に固定サイズの空間ウィンドウ（16×16ピクセル）を用いて、局所的ネイバーヒーブ特徴を抽出することで、効率的かつ集中した注意を実現する。
• Argoverse Trackingスプリットで、Adam最適化手法、学習率のウォームアップおよび減衰を用いた単一段階のエンドツーエンド学習パイプラインを採用する。
• 1024次元の潜在コードと、1層のプロジェクションヘッドを用いて、特徴を将来のトラジェクトリ予測にマッピングする。

実験結果

リサーチクエスチョン

• RQ1 局所的自己注意は、自律走行のトラジェクトリ予測における動的かつ社会的相互作用のモデリングをどのように改善するか？
• RQ2 シーンと社会的コンテキストのための別個エンコーダーと比較して、統一された自己注意バックボーンは、トラジェクトリ予測においてどのような利点を示すか？
• RQ3 最先端モデルと比較して、Trajformerは予測の多様性と妥当性をどの程度向上させるか？
• RQ4 軽量なトランスフォーマー基盤モデルは、顕著に少ないパラメータ数でより良い性能を達成できるか？
• RQ5 高速度のエージェントが存在する場合にどのような失敗モードが生じるか？また、コンテキストウィンドウサイズはそれらにどのように影響するか？

主な発見

• Trajformerは、Argoverseデータセットにおいて新たな最先端性能を達成し、最良のバージョン（Trajformer-24）ではminADEが0.621、minFDEが0.719を記錣した。
• モデルはDAO（28.21）とDAC（0.973）を顕著に向上させ、予測トラジェクトリの多様性と妥当性が向上していることを示している。
• Trajformer-24はモデルサイズを2.9 MB、192Kパラメータにまで削減し、DATF（4.7 MB、462Kパラメータ）と比較して58％の削減を達成した。
• 定性的な結果から、交差点での優先権ルール（右折優先）を正しく学習・実装していることが示された。エージェントが正しく譲り合う様子が観察された。
• 主な失敗モードとして、高速度エージェントでは予測されたトラジェクトリポイントが通常の2倍の間隔で一様に配置される現象が確認された。これは、局所的コンテキストウィンドウサイズが限られていることが原因とされる。
• Trajformer-12とTrajformer-24の性能差は最小限にとどまり、12層で十分な性能が得られ、複雑性も低減可能であることが示された。