[论文解读] Generating Multi-Agent Trajectories using Programmatic Weak Supervision

Eric Zhan, Stephan Zheng+3 more|arXiv (Cornell University)|Mar 20, 2018

Sports Analytics and Performance参考文献 44被引用 37

一句话总结

本文提出了一种分层生成建模框架，利用程序化弱监督学习可解释、可操作的宏观意图，用于协调多智能体轨迹生成。通过应用领域特定的标注函数，从高层行为中提取弱标签（如篮球中的团队阵型或合成Boids模型中的聚集/回避行为），该方法在长时程轨迹生成中实现了更高的准确性，并在建模多模态、协调行为方面优于基线方法。

ABSTRACT

We study the problem of training sequential generative models for capturing coordinated multi-agent trajectory behavior, such as offensive basketball gameplay. When modeling such settings, it is often beneficial to design hierarchical models that can capture long-term coordination using intermediate variables. Furthermore, these intermediate variables should capture interesting high-level behavioral semantics in an interpretable and manipulatable way. We present a hierarchical framework that can effectively learn such sequential generative models. Our approach is inspired by recent work on leveraging programmatically produced weak labels, which we extend to the spatiotemporal regime. In addition to synthetic settings, we show how to instantiate our framework to effectively model complex interactions between basketball players and generate realistic multi-agent trajectories of basketball gameplay over long time periods. We validate our approach using both quantitative and qualitative evaluations, including a user study comparison conducted with professional sports analysts.

研究动机与目标

• 解决在具有长期依赖关系的序列设置中建模复杂、协调、多模态多智能体行为的挑战。
• 开发一种分层生成模型，利用可解释的中间变量（宏观意图）表示高层行为语义，如团队策略或智能体协调模式。
• 通过使用弱监督、程序化的标注函数训练宏观意图表征，克服无监督解缠方法在序列设置中的局限性。
• 通过将宏观意图与有意义的、领域特定的行为相联系，实现轨迹的条件生成与操作。
• 在合成Boids类系统和真实篮球追踪数据上验证该框架，结果表明其性能显著优于标准基线模型。

提出的方法

• 设计一种分层生成模型，其中宏观意图为使用RNN建模的隐变量，以捕捉高层行为的时间动态。
• 定义程序化标注函数，基于领域特定启发式方法生成宏观意图的弱标签和噪声标签——例如Boids中的凝聚力系数符号或篮球数据中的空间聚类。
• 使用这些弱标签进行端到端监督学习，使模型能够学习到可解释且可操作的中间表征。
• 将宏观意图模型与深度生成模型（如VAE或归一化流）集成，实现基于学习到的宏观意图的智能体轨迹生成。
• 采用两阶段训练流程：首先使用弱标签训练宏观意图RNN，然后通过变分推理目标联合训练轨迹生成器与宏观意图模型。
• 将数据编程原则应用于时空领域，实现在无需完全标注数据集的情况下，实现可扩展且灵活的弱监督。

实验结果

研究问题

• RQ1 程序化弱监督能否有效扩展到时空领域，以学习多智能体轨迹生成的可解释宏观意图？
• RQ2 与标准深度生成模型相比，使用弱标签训练的分层生成模型是否能更好地捕捉长期协调与多模态行为？
• RQ3 与无监督解缠方法相比，弱监督的宏观意图在多大程度上提升了生成多智能体轨迹的质量与可解释性？
• RQ4 该框架在不同领域（如合成智能体系统与真实世界体育数据）中的泛化能力如何？
• RQ5 所学习的宏观意图是否可被有意义地操作，以生成特定类型的协调行为（如篮球中的进攻战术）？

主要发现

• 采用程序化弱监督的分层模型在捕捉合成Boids轨迹真实生成分布方面显著优于标准基线模型，尤其在区分友好（凝聚）与非友好（分散）行为方面表现突出。
• 该模型成功学习到在平均最近邻距离上具有两种不同模式的轨迹生成——分别对应于聚集与回避行为，而基线模型无法区分这些模式。
• 在篮球轨迹生成中，该模型生成的轨迹具有高度现实感和协调性，在用户研究中经职业体育分析师评估，其表现显著优于基线模型。
• 通过弱监督学习到的宏观意图表征具有可解释性，并支持条件生成：改变宏观意图可产生具有明确行为差异的轨迹展开。
• 采用互信息最大化训练的模型（如VRAE-mi）未能学习到有用的宏观意图，导致多样性低且性能差，凸显了结构化弱监督的重要性。
• 该框架对简单标注函数具有鲁棒性：即使使用基本启发式方法（如凝聚力系数符号），也能生成高质量、可解释的宏观意图，且与真实行为语义高度一致。