[論文レビュー] Transformer-Based Neural Marked Spatio Temporal Point Process Model for Football Match Events Analysis

Calvin C. K. Yeung, Tony Sit+1 more|arXiv (Cornell University)|Feb 18, 2023

Point processes and geometric inequalities被引用数 5

ひとこと要約

本稿では、試合内イベントのイベント間時間、空間的位置、アクションタイプを従属的に連携してモデル化できる、Transformerベースのニューラルマークド時空間点過程（NMSTPP）モデルを提案する。このモデルは、ベースライン手法よりも優れたイベント予測性能を示し、シュートやゴールデータに依存しないが、最終順位、平均得点、xGといったチームのパフォーマンス指標と強く相関する、包括的ボール支配効率スコア（HPUS）の導入を可能にする。

ABSTRACT

With recently available football match event data that record the details of football matches, analysts and researchers have a great opportunity to develop new performance metrics, gain insight, and evaluate key performance. However, most sports sequential events modeling methods and performance metrics approaches could be incomprehensive in dealing with such large-scale spatiotemporal data (in particular, temporal process), thereby necessitating a more comprehensive spatiotemporal model and a holistic performance metric. To this end, we proposed the Transformer-Based Neural Marked Spatio Temporal Point Process (NMSTPP) model for football event data based on the neural temporal point processes (NTPP) framework. In the experiments, our model outperformed the prediction performance of the baseline models. Furthermore, we proposed the holistic possession utilization score (HPUS) metric for a more comprehensive football possession analysis. For verification, we examined the relationship with football teams' final ranking, average goal score, and average xG over a season. It was observed that the average HPUS showed significant correlations regardless of not using goal and details of shot information. Furthermore, we show HPUS examples in analyzing possessions, matches, and between matches.

研究の動機と目的

• 従来のモデルが、フットボールイベントの時間的・空間的・アクション的側面を独立して扱うという限界を是正すること。
• イベント間時間、位置、アクションタイプの間の依存関係を捉えることのできる包括的な時空間モデルの構築。
• 時間的・空間的・アクション的要因を統合したボール支配効率を評価する新しいパフォーマンス指標、HPUSの提案。
• NMSTPPモデルの予測性能の優位性と、HPUS指標が実際のチームパフォーマンスとどのように関連するかの検証。
• 本モデルが、フットボールや他の順序的スポーツにおける新しいパフォーマンス指標の導出に応用可能であることを示すこと。

提案手法

• NMSTPPモデルは、イベント間時間、空間座標、アクションタイプという3つの成分を持つマークド点過程としてモデル化するため、ニューラル時系列点過程（NTPP）フレームワーク内に構築される。
• 長距離依存性を自己注意機構で捉えるために、全イベント履歴をエンコードするTransformerエンコーダーを用いる。
• 条件付き強度関数は、過去の全イベント履歴に条件づけられた次のイベントのハザードレートを出力するニューラルネットワークによってパrameter化される。
• マルチ変数出力ヘッドを用いて、マークド点過程をモデル化することで、次のイベントの時刻、位置、タイプを同時に予測する。
• HPUS指標は、モデルの予測確率と時間的ダイナミクスから導出され、チームが時間的・空間的要因をどれだけ効果的にボール支配に活用しているかを定量化する。
• オープンソースのBundesliga試合データを用いてモデルのトレーニングとハイパーパrameterチューニングを実施し、統合的モデリングの重要性を検証するためのアブレーションスタディを実施。

実験結果

リサーチクエスチョン

• RQ1 イベント間時間、空間的位置、アクションタイプの統合的モデリングは、独立的または逐次的モデリングに比べて、予測性能を向上させるか？
• RQ2 提案されたHPUS指標は、最終順位、平均得点、xGといった実際のチームパフォーマンス指標とどれほど相関するか？
• RQ3 時間的ダイナミクスを組み込むことで、時間無視のモデルに比べて、モデルの予測能力が顕著に向上するか？
• RQ4 RNNベースや注意機構なしのアーキテクチャに比べて、Transformerベースのアーキテクチャが、フットボールイベント系列における長距離依存性をどれほど効果的に捉えられるか？
• RQ5 NMSTPPモデルは、xG や poss-util といった従来の指標を超えた、新しい包括的パフォーマンス指標の導出の基盤として機能できるか？

主な発見

• NMSTPPモデルは、アブレーションスタディにより、時間・空間・アクションタイプの統合的モデリングが予測精度を向上させることを確認し、ベースライン手法に比して優れた予測性能を達成した。
• 包括的ボール支配効率スコア（HPUS）は、最終リーグ順位、1試合あたりの平均得点、シーズン平均xGといったチームパフォーマンス指標と強くかつ一貫した相関を示した。
• シュートやゴールデータを一切使用しない状態でも、HPUS指標は高い妥当性を示し、時空間的ダイナミクスを通じてボール支配の質を的確に捉えていることを示した。
• 特にTransformerエンコーダーを用いたモデルアーキテクチャは、フットボールイベント系列における長距離依存性を効果的に捉えており、RNNベースのベースラインを上回った。
• アブレーションスタディにより、時間・空間・アクションの3要素を同時にモデリングすることが性能向上に寄与することを確認し、包括的かつ統合的アプローチの必要性を裏付けた。
• NMSTPPモデルは汎用性が高く、フットボールや他の順序的で多次元イベントデータを持つスポーツにおける、新たなパフォーマンス指標の導出の基盤として利用可能である。