[论文解读] Back to square one: probabilistic trajectory forecasting without bells and whistles

Ehsan Pajouheshgar, Christoph H. Lampert|arXiv (Cornell University)|Dec 7, 2018

Anomaly Detection Techniques and Applications参考文献 9被引用 5

一句话总结

本文提出 STCNN，一种用于概率轨迹预测的简单时空卷积神经网络，通过离散的 softmax 层直接建模输出概率分布，无需复杂的潜在变量结构。该方法在 MNISTseq 和 Stanford Drone 数据集上采用最大似然训练和自回归采样，取得了最先进或具有竞争力的结果，同时挑战了传统评估指标。

ABSTRACT

We introduce a spatio-temporal convolutional neural network model for trajectory forecasting from visual sources. Applied in an auto-regressive way it provides an explicit probability distribution over continuations of a given initial trajectory segment. We discuss it in relation to (more complicated) existing work and report on experiments on two standard datasets for trajectory forecasting: MNISTseq and Stanford Drones, achieving results on-par with or better than previous methods.

研究动机与目标

• 开发一种比复杂潜在变量模型更简单、更高效的概率轨迹预测替代方法。
• 解决现有评估指标在多模态预测中存在缺陷的问题，这些缺陷可能产生误导或抑制模型表现。
• 证明在输出层显式建模概率分布可实现与使用潜在变量的模型相当或更优的性能。
• 提出并验证一种基于交叉熵的评估度量，该度量在离散概率输出下数学上严谨且定义明确。
• 通过发布代码并使用新度量重新评估先前模型，实现更公平的基准测试。

提出的方法

• 模型采用全卷积的编码器-瓶颈-解码器架构，使用 3D 卷积处理时空轨迹片段。
• 通过 2D 和 3D 卷积层将初始轨迹片段编码为潜在表征，可选择性地基于参考图像进行条件控制。
• 通过一系列转置卷积和最终的 softmax 层，为下一个轨迹步长生成像素位置上的离散概率分布。
• 模型支持自回归采样：在每一步中，从预测的概率分布中采样下一个位置，并迭代更新分布。
• 训练通过最大似然估计进行，使用所有训练序列中真实下一个位置的对数似然。
• 参考图像通过标准 CNN 编码，并在转置卷积解码前与轨迹潜在表征拼接。

实验结果

研究问题

• RQ1 一个在输出层具有显式概率输出的简单时空卷积神经网络，能否在轨迹预测中达到或超越复杂潜在变量模型的性能？
• RQ2 在输出层直接建模离散概率分布是否可以消除多模态预测中对潜在变量的需求？
• RQ3 标准评估指标（如 L² 误差和 top-10% oracle 误差）为何会误导模型比较？是否存在更优的替代方案？
• RQ4 一个简单的“散弹式”基线模型（随机猜测多个方向和速度）是否能在 oracle 指标上超越学习模型？
• RQ5 所提出的交叉熵度量是否比现有指标在评估概率轨迹预测时更具可靠性与可解释性？

主要发现

• 在 MNISTseq 上，STCNN 的交叉熵得分为 27.7，显著优于高斯-LSTM 基线模型的 73.4。
• 在 SDD 数据集上，STCNN-T（仅使用轨迹）的平均交叉熵为 23.5 ± 0.8，优于 LSTM 基线模型的 25.0 ± 0.5。
• 当引入参考图像（STCNN-T+I）时，模型将交叉熵降低至 21.3 ± 0.8，表明上下文输入具有显著优势。
• STCNN 的 top-10% oracle 误差与最先进模型相当，但一个简单的“散弹式”基线也达到了相同得分，表明该指标鼓励随机猜测。
• STCNN 的 L² 误差为 43.0，劣于 LSTM 基线的 35.6，证实 L² 误差会惩罚多模态预测，这与目标相悖。
• 定性结果表明，STCNN 学习到了多样化、多模态的概率分布，能够反映数据特定的模式，如 MNISTseq 中的跳跃行为和 SDD 中的避让行为，且无需复杂架构。