[論文レビュー] You Mostly Walk Alone: Analyzing Feature Attribution in Trajectory Prediction

Osama Makansi, Julius von Kügelgen+5 more|arXiv (Cornell University)|Oct 11, 2021

Anomaly Detection Techniques and Applications被引用数 13

ひとこと要約

本論文は、過去の軌跡や社会的相互作用などの入力特徴が、深層学習モデルにおける軌跡予測性能にどの程度寄与しているかを定量化する、シャープレイ値に基づく特徴帰属割り当て手法を提案する。標準ベンチマーク上の最先端モデルに適用した結果、これらのモデルは、相互作用の推論を主張しているにもかかわらず、ほとんどがターゲットエージェントの過去軌跡に依存しており、相互作用特徴の寄与はほとんどないことが判明した。一方、より強い相互作用ダイナミクスを有するスポーツデータセットでは、モデルが社会的ヒントを効果的に使用していることが示された。

ABSTRACT

Predicting the future trajectory of a moving agent can be easy when the past trajectory continues smoothly but is challenging when complex interactions with other agents are involved. Recent deep learning approaches for trajectory prediction show promising performance and partially attribute this to successful reasoning about agent-agent interactions. However, it remains unclear which features such black-box models actually learn to use for making predictions. This paper proposes a procedure that quantifies the contributions of different cues to model performance based on a variant of Shapley values. Applying this procedure to state-of-the-art trajectory prediction methods on standard benchmark datasets shows that they are, in fact, unable to reason about interactions. Instead, the past trajectory of the target is the only feature used for predicting its future. For a task with richer social interaction patterns, on the other hand, the tested models do pick up such interactions to a certain extent, as quantified by our feature attribution method. We discuss the limits of the proposed method and its links to causality

研究の動機と目的

• 最先端の軌跡予測モデルが予測に実際にどの特徴を使用しているかを理解すること、特にエージェント間相互作用の文脈において。
• マルチモーダルな軌跡予測における予測性能への特徴寄与度を定量化するための信頼性が高く、モデルに依存しない手法を開発すること。
• ETH-UCY や SDD のような広く使われているベンチマークデータセット上でも、モデルが社会的相互作用を真正に推論しているのか、それとも単に過去軌跡に依存しているのかを評価すること。
• 特徴帰属割り当ての因果的解釈可能性と、軌跡予測におけるグランジャ因果性の原則との整合性を評価すること。
• 現在のベンチマークが相互作用推論の評価に不適切である点を特定し、因果的信号が強い場合にはモデルが相互作用を学習できることを示すこと。

提案手法

• 著者らは、軌跡予測モデルに特化したシャープレイ値の変種を提案し、モデル性能（例：負の対数尤度）への入力特徴の局所的およびグローバルな帰属割り当てを可能にする。
• 各特徴の限界寄与度は、特徴の部分集合におけるモデル性能の平均をとることで計算され、特に相互作用の手がかりの影響を分離することに注力する。
• 隣接エージェントの個々のシャープレイ値から集約された社会的相互作用スコアを用いて、相互作用情報の全体的な使用度を定量化する。
• 本手法は、標準ベンチマーク（ETH-UCY、SDD、nuScenes）およびスポーツデータセット（SportVU）における最先端モデル（Trajectron++ および PECNet）に適用された。
• 本手法により、シナリオごとの特徴の影響度を可視化でき、相互作用の信号が予測にどの程度強く影響しているかを特定できる。
• 異なるモデルバージョンおよびデータ分割における帰属割り当ての妥当性を評価し、特徴の除外 vs. ランダム化に対する感度分析を実施した。

実験結果

リサーチクエスチョン

• RQ1 最先端の軌跡予測モデルは、ターゲットエージェントの過去軌跡に加えて、どの程度エージェント間相互作用に依存しているのか？
• RQ2 シャープレイ値のような特徴帰属割り当て手法は、モデルが実際に予測に使用しているどの手がかりかを信頼性を持って明らかにできるのか？
• RQ3 ETH-UCY や SDD のような標準ベンチマーク上で学習されたモデルは、論文で主張されているように社会的相互作用を真正に推論しているのか？
• RQ4 データ内の因果的相互作用信号の強さが、モデルがそれらを活用できる能力に与える影響は何か？
• RQ5 帰属割り当てはグランジャ因果性とどのように関連しているのか？どのような仮定のもとで因果的解釈が可能になるのか？

主な発見

• ETH-UCY や SDD、nuScenes などの標準ベンチマーク上では、Trajectron++ や PECNet といった最先端モデルが、ほとんどがターゲットエージェントの過去軌跡に依存しており、相互作用特徴の寄与は最小限にとどまっている。
• シャープレイ値から導かれた社会的相互作用スコアは、標準データセットではほぼゼロの影響を示しており、モデルが相互作用の手がかりを活用していないことが示唆されるが、アーキテクチャ上の能力は備えている。
• より豊富で一貫性のある社会的相互作用を有する SportVU データセットでは、隣接エージェントのシャープレイ値が非ゼロかつ意味のある値を示しており、モデルが相互作用特徴を実際に使用していることが裏付けられた。
• 帰属割り当て手法は、相互作用信号が活性化している局所的イベントを的確に特定し、その予測的関連性を定量化でき、モデル行動の可視化に有効であることが示された。
• 本研究は、人気のあるベンチマークが相互作用推論の評価に不適切であることが判明した。これらは、モデルがそれらを活用するように学習できる十分な因果的信号を含んでいない。
• 本手法がグランジャ因果性の原則と整合しているにもかかわらず、小さなシャープレイ値は因果的影響の欠如を意味するのではなく、むしろモデルがそれを学習できなかったことを示しており、これがモデルの主要な限界であることが浮き彫りになった。