[論文レビュー] Back to square one: probabilistic trajectory forecasting without bells and whistles

Ehsan Pajouheshgar, Christoph H. Lampert|arXiv (Cornell University)|Dec 7, 2018

Anomaly Detection Techniques and Applications参考文献 9被引用数 5

ひとこと要約

本稿では、出力確率分布を離散的ソフトマックス層を介して直接モデル化することで、複雑な潜在変数構造を不要にする、確率的トラジェクトリ予測のためのシンプルな時空間畳み込みニューラルネットワーク（STCNN）を提案する。最大尤度学習と自己回帰的サンプリングを用いて、MNISTseqおよびStanford Droneデータセットで最先端または競争力のある結果を達成し、従来の評価指標に挑戦する。

ABSTRACT

We introduce a spatio-temporal convolutional neural network model for trajectory forecasting from visual sources. Applied in an auto-regressive way it provides an explicit probability distribution over continuations of a given initial trajectory segment. We discuss it in relation to (more complicated) existing work and report on experiments on two standard datasets for trajectory forecasting: MNISTseq and Stanford Drones, achieving results on-par with or better than previous methods.

研究の動機と目的

• 確率的トラジェクトリ予測のための、複雑な潜在変数モデルのよりシンプルで効率的な代替手法の開発。
• マルチモーダル予測において不適切な誘導を及げる既存の評価指標の欠陥の是正。
• 出力層での明示的確率モデル化が、潜在変数を用いるモデルと同等またはそれ以上の性能を達成できることの実証。
• 離散的確率出力に対して数学的に整合的で明確に定義された交差エントロピーに基づく評価指標の提案と検証。
• コードの公開と新指標による先行モデルの再評価を通じて、より公平なベンチマークの実現。

提案手法

• 3次元畳み込みを用いて時空間的トラジェクトリセグメントを処理する、完全畳み込み型エンコーダ–ボトルネック–デコーダアーキテクチャを採用。
• 2次元および3次元畳み込み層を用いて、初期トラジェクトリセグメントを潜在表現に変換する。必要に応じて参照画像を条件として用いる。
• アップコンボリューションの系列と最終的なソフトマックス層により、次のトラジェクトリステップのピクセル位置における離散的確率分布を出力。
• 自己回帰的サンプリングが可能：各ステップで予測された分布から次の一歩の位置をサンプリングし、繰り返し更新。
• すべての学習シーケンスにおける真値の次ステップ位置の対数尤度を用いて、最大尤度推定により学習。
• 参照画像は標準的なCNNでエンコードされ、トラジェクトリの潜在表現と連結されてから、アップコンボリューションによるデコーディングが行われる。

実験結果

リサーチクエスチョン

• RQ1 出力層に明示的な確率出力を備えたシンプルな時空間CNNが、複雑な潜在変数モデルの性能を同等または上回ることができるか？
• RQ2 出力層での離散的確率分布の直接的モデリングが、マルチモーダル予測において潜在変数の必要性を排除できるか？
• RQ3 L²誤差やトップ10％オラクル誤差といった標準的評価指標が、モデル比較を誤導する理由は何か？より良い代替案はあるか？
• RQ4 複数の方向と速度をランダムに予測する単純な「ショットガン」ベースラインが、オラクル指標において学習済みモデルを上回ることができるか？
• RQ5 提案された交差エントロピー指標は、既存の指標と比較して、確率的トラジェクトリ予測の評価においてより信頼性が高く、解釈可能であるか？

主な発見

• MNISTseqでは、STCNNが交差エントロピー得点27.7を達成し、ガウス分布を仮定するLSTMベースライン（73.4）を顕著に上回った。
• SDDデータセットでは、STCNN-T（トラジェクトリのみ）が平均交差エントロピー23.5 ± 0.8を達成し、LSTMベースライン（25.0 ± 0.5）を上回った。
• 参照画像を含めた場合（STCNN-T+I）、交差エントロピーは21.3 ± 0.8に低下し、文脈的情報の有効性が示された。
• STCNNのトップ10％オラクル誤差は最先端モデルと同等であったが、単純な「ショットガン」ベースラインも同様のスコアを達成しており、この指標がランダムな推測を奨励していることが示唆された。
• STCNNのL²誤差（43.0）はLSTMベースライン（35.6）より悪く、マルチモーダル予測に対してL²がペナルティを課すことが確認され、これは非効率的であることが判明した。
• 定性的な結果から、STCNNはMNISTseqにおけるジャンプやSDDにおける回避行動といったデータ固有のパターンを反映する多様でマルチモーダルな分布を学習しており、複雑なアーキテクチャを必要としないことが明らかになった。