[论文解读] Transformer-Based Neural Marked Spatio Temporal Point Process Model for Football Match Events Analysis

Calvin C. K. Yeung, Tony Sit+1 more|arXiv (Cornell University)|Feb 18, 2023

Point processes and geometric inequalities被引用 5

一句话总结

本文提出了一种基于Transformer的神经标记时空点过程（NMSTPP）模型，以依赖方式联合建模足球比赛事件的事件间隔时间、空间位置和动作类型。该模型在事件预测方面优于基线方法，并提出了整体控球利用得分（HPUS），该得分与最终排名、场均进球数和预期进球（xG）等球队表现指标具有强相关性，且无需依赖射门或进球数据。

ABSTRACT

With recently available football match event data that record the details of football matches, analysts and researchers have a great opportunity to develop new performance metrics, gain insight, and evaluate key performance. However, most sports sequential events modeling methods and performance metrics approaches could be incomprehensive in dealing with such large-scale spatiotemporal data (in particular, temporal process), thereby necessitating a more comprehensive spatiotemporal model and a holistic performance metric. To this end, we proposed the Transformer-Based Neural Marked Spatio Temporal Point Process (NMSTPP) model for football event data based on the neural temporal point processes (NTPP) framework. In the experiments, our model outperformed the prediction performance of the baseline models. Furthermore, we proposed the holistic possession utilization score (HPUS) metric for a more comprehensive football possession analysis. For verification, we examined the relationship with football teams' final ranking, average goal score, and average xG over a season. It was observed that the average HPUS showed significant correlations regardless of not using goal and details of shot information. Furthermore, we show HPUS examples in analyzing possessions, matches, and between matches.

研究动机与目标

• 解决现有模型将足球事件的时间、空间和动作成分独立处理的局限性。
• 开发一种全面的时空模型，以捕捉足球比赛事件中事件间隔时间、位置和动作类型之间的依赖关系。
• 提出一种新的性能指标HPUS，用于评估球队控球效率，整合时间、空间和动作因素。
• 验证NMSTPP模型在预测上的优越性以及HPUS指标与真实球队表现的相关性。
• 展示该模型在推导足球及其他序列性运动中新型性能指标方面的适用性。

提出的方法

• NMSTPP模型基于神经时间点过程（NTPP）框架构建，将足球事件建模为具有三个组成部分的标记点过程：事件间隔时间、空间坐标和动作类型。
• 模型使用Transformer编码器编码完整的事件历史，通过自注意力机制捕捉长程依赖关系。
• 条件强度函数由神经网络参数化，输出下一次事件的危险率，条件依赖于过去所有事件的完整历史。
• 通过多变量输出头建模标记点过程，联合预测下一次事件的时间、位置和类型。
• HPUS指标基于模型预测的事件概率和时间动态推导得出，量化球队在时间和空间上对控球的利用效率。
• 在开源德甲比赛数据上进行模型训练和超参数调优，并通过消融研究验证联合建模的重要性。

实验结果

研究问题

• RQ1 联合建模事件间隔时间、空间位置和动作类型是否能提升独立或顺序建模方法的预测性能？
• RQ2 所提出的HPUS指标与实际球队表现指标（如最终联赛排名、场均进球数和xG）的相关性如何？
• RQ3 与忽略时间的模型相比，引入时间动态是否显著提升了模型的预测能力？
• RQ4 与基于RNN或无注意力机制的架构相比，基于Transformer的架构在捕捉足球事件序列中的长程依赖关系方面表现如何？
• RQ5 NMSTPP模型能否作为基础，用于推导超越传统指标（如xG或控球利用率）的新型整体性能指标？

主要发现

• 与基线模型相比，NMSTPP模型在预测性能上表现更优，消融研究证实联合建模时间、空间和动作类型可提升预测准确性。
• 整体控球利用得分（HPUS）与球队表现指标（包括最终联赛排名、场均进球数和赛季平均xG）表现出显著且一致的相关性。
• HPUS指标在不使用射门或进球数据的情况下仍表现出强有效性，表明其能通过时空动态稳健捕捉控球质量。
• 模型架构，尤其是Transformer编码器，有效捕捉了足球事件序列中的长程依赖关系，优于基于RNN的基线模型。
• 消融研究证实，同时建模时间、空间和动作三者可提升性能，验证了整体方法的必要性。
• NMSTPP模型具备良好的泛化能力，可作为推导足球及其他具有序列性、多变量事件数据的运动中新型性能指标的基础。