[论文解读] Deep Generative Quantile-Copula Models for Probabilistic Forecasting

Ruofeng Wen, Kari Torkkola|arXiv (Cornell University)|Jul 24, 2019

Neural Networks and Applications参考文献 19被引用 13

一句话总结

本文提出深度生成分位数-藤 copula模型（DGQCM），这是一种新颖的条件生成框架，通过使用深度神经网络建模完整的分位数函数，并将其与条件藤 copula 联合，以捕捉多变量依赖结构，从而扩展多期预测的分位数方法。该方法在保持高精度的同时，实现了完整的联合概率预测与模拟，优于现有隐式生成模型在时间序列应用中的表现。

ABSTRACT

We introduce a new category of multivariate conditional generative models and demonstrate its performance and versatility in probabilistic time series forecasting and simulation. Specifically, the output of quantile regression networks is expanded from a set of fixed quantiles to the whole Quantile Function by a univariate mapping from a latent uniform distribution to the target distribution. Then the multivariate case is solved by learning such quantile functions for each dimension's marginal distribution, followed by estimating a conditional Copula to associate these latent uniform random variables. The quantile functions and copula, together defining the joint predictive distribution, can be parameterized by a single implicit generative Deep Neural Network.

研究动机与目标

• 解决现有多期分位数预测器的局限性，即仅输出边缘分布且缺乏生成能力。
• 开发一种条件生成模型，以捕捉多变量时间序列的完整联合预测分布。
• 通过建模完整的分位数函数与依赖结构，实现高效且一致的概率模拟与异常检测。
• 克服标准隐式生成模型与条件时间序列预测之间的不兼容性，尤其在上下文稀疏条件下。
• 提供一个统一框架，结合分位数回归的准确性与生成建模的灵活性。

提出的方法

• 通过深度神经网络参数化每个时间序列维度的条件边缘分位数函数，将潜变量（均匀分布）映射至目标分布。
• 通过学习一个条件藤 copula 来建模联合分布，以捕捉由边缘分位数函数导出的潜变量之间的依赖结构。
• 整个模型通过合适的评分规则进行端到端训练，即使在上下文数据稀疏时也能实现一致且稳定的优化。
• 该方法使用单一隐式生成网络，联合参数化分位数函数与 copula，避免显式反向映射或受限制的流结构。
• 该框架支持完整的样本路径生成用于模拟，并可通过预测密度估计实现异常检测。
• 通过学习完整的分位数函数而非离散分位数，避免了对启发式插值或参数拟合的依赖。

实验结果

研究问题

• RQ1 能否设计一种深度生成模型，在保持分位数回归精度的同时，为多变量时间序列生成完整的联合预测分布？
• RQ2 如何利用深度神经网络高效建模完整的分位数函数，而无需依赖固定的分位数集合？
• RQ3 条件藤 copula 能否有效建模跨序列依赖关系，同时保持深度神经网络的表达能力？
• RQ4 所提出的框架是否在概率预测与模拟任务中优于现有隐式生成模型？
• RQ5 该模型能否为库存控制与强化学习等下游应用生成一致且高质量的样本路径？

主要发现

• 所提出的 DGQCM 框架在概率预测任务中达到最先进性能，在时间序列基准测试中显著优于 VAE、GAN、WaveNet 与贝叶斯丢弃模型。
• 该模型支持完整的联合样本路径生成，而这是标准多期分位数预测器原生不支持的功能。
• 通过建模完整的分位数函数，该方法避免了对离散分位数输出进行复杂插值或参数拟合的需求。
• 条件藤 copula 有效捕捉了跨序列相关性，实现了多时间序列的联合建模，而无需独立处理各序列。
• 该框架在保持高精度的同时，提供了一个完全生成式、可微分且可扩展的概率预测解决方案。
• 实证结果表明，该模型减少了在联合分布估计中常见的统计不一致性问题（如 Mesh 方法中出现的问题）。