[论文解读] A unified formulation of Gaussian vs. sparse stochastic processes - Part II: Discrete-domain theory

Michaël Unser, Pouya D. Tafti+2 more|arXiv (Cornell University)|Aug 31, 2011

Stochastic processes and financial applications参考文献 16被引用 10

一句话总结

本文通过基于样条的形式化方法和广义增量过程，提出了一种统一的离散域理论，用于广义CARMA过程——该理论扩展了高斯过程与稀疏随机过程。它建立了连续时间Lévy驱动过程与其离散时间对应物之间的严格联系，通过基于B样条的白化算子和稳定创新模型，实现了对具有受控相关性和稀疏性的稀疏信号的高效模拟与表征。

ABSTRACT

This paper is devoted to the characterization of an extended family of CARMA (continuous-time autoregressive moving average) processes that are solutions of stochastic differential equations driven by white Levy innovations. These are completely specified by: (1) a set of poles and zeros that fixes their correlation structure, and (2) a canonical infinitely-divisible probability distribution that controls their degree of sparsity (with the Gaussian model corresponding to the least sparse scenario). The generalized CARMA processes are either stationary or non-stationary, depending on the location of the poles in the complex plane. The most basic non-stationary representatives (with a single pole at the origin) are the Levy processes, which are the non-Gaussian counterparts of Brownian motion. We focus on the general analog-to-discrete conversion problem and introduce a novel spline-based formalism that greatly simplifies the derivation of the correlation properties and joint probability distributions of the discrete versions of these processes. We also rely on the concept of generalized increment process, which suppresses all long range dependencies, to specify an equivalent discrete-domain innovation model. A crucial ingredient is the existence of a minimally-supported function associated with the whitening operator L; this B-spline, which is fundamental to our formulation, appears in most of our formulas, both at the level of the correlation and the characteristic function. We make use of these discrete-domain results to numerically generate illustrative examples of sparse signals that are consistent with the continuous-domain model.

研究动机与目标

• 通过将由Lévy噪声驱动的连续时间CARMA过程进行扩展，统一离散时间下高斯过程与稀疏随机过程的理论。
• 解决为具有长程依赖性的非高斯、稀疏过程构建稳定且计算上可行的离散模型的挑战。
• 开发一种基于样条的形式化方法，以简化离散时间下相关结构与联合分布的推导。
• 通过广义增量过程建立离散域创新模型，以抑制长程依赖性，并确保与连续域规范的一致性。
• 通过最小支撑B样条白化算子，实现与连续时间模型一致的稀疏信号的数值生成。

提出的方法

• 作者采用以最小支撑B样条函数为核心的样条形式化方法，该函数与白化算子 $\mathcal{L}$ 相关联，构成了所有相关性和特征函数公式的理论基础。
• 他们引入广义增量过程的概念，以消除长程依赖性，并推导出等价的离散域创新模型。
• 通过将逆算子 $\mathcal{L}^{-1}$ 作用于白Lévy噪声，推导出离散时间过程，边界条件通过伴随算子 $\mathcal{I}^*_{\omega_0,\varphi_0}$ 指定。
• 该方法依赖于逆算子的傅里叶表示，确保在 $L_p$ 和 $\mathcal{S}$ 空间中积分非奇异且连续。
• 该形式化方法使用具有衰减性质 $\left|\mathcal{I}^*_{\omega_0,\varphi_0}f(t)\right| < C_{\varphi_0} \frac{\|f\|_{\infty,r}}{1+|t|^{r-1}}$ 的伴随算子 $\mathcal{I}^*_{\omega_0,\varphi_0}$，证明了其稳定性和连续性。
• 对于高阶系统，逆算子 $\mathcal{L}^{-1*}$ 构造为基本伴随算子 $\mathcal{I}^*_{\omega_i,\varphi_i}$ 的复合与标准 $\mathcal{S}$-连续卷积 $\mathcal{T}_{\text{LSI}}$ 的组合。

实验结果

研究问题

• RQ1 如何为包含高斯过程与稀疏（非高斯）随机过程的CARMA过程，推导出统一的离散域公式？
• RQ2 B样条在稳定Lévy驱动过程的离散表示中起到什么作用，如何实现相关性和特征函数的高效计算？
• RQ3 在离散时间模型中，如何消除长程依赖性，同时保持连续时间过程的统计特性？
• RQ4 确保与连续域系统理论框架兼容的离散创新模型的数学结构是什么？
• RQ5 如何对离散时间过程进行数值生成，以反映底层连续时间Lévy过程的稀疏性与相关性结构？

主要发现

• 广义CARMA过程的离散时间版本完全由系统的极点与零点以及Lévy创新的规范无限可分分布表征，其中高斯过程对应最稀疏性最低的情况。
• 与白化算子 $\mathcal{L}$ 相关联的B样条函数，是所有相关性和特征函数公式中的基本构建单元。
• 广义增量过程有效抑制了长程依赖性，从而实现了稳定且可逆的离散域创新模型。
• 伴随算子 $\mathcal{I}^*_{\omega_0,\varphi_0}$ 在 $\mathcal{S}$ 和 $L_p$ 空间上连续，衰减速率为 $O(1/|t|^{r-1})$，确保了数值稳定性。
• 由伴随算子导出的离散边界条件在数学上严格等价于其连续对应形式，确保了连续与离散形式之间的一致性。
• 所提出的框架能够准确实现与连续时间Lévy驱动模型一致的稀疏信号的数值生成，验证了其在促进稀疏性的信号处理中的实际应用价值。