[论文解读] A unified formulation of Gaussian vs. sparse stochastic processes - Part I: Continuous-domain theory

Michaël Unser, Pouya D. Tafti+1 more|arXiv (Cornell University)|Aug 31, 2011

Probabilistic and Robust Engineering Design参考文献 35被引用 14

一句话总结

本文通过将连续域随机过程建模为由广义白噪声驱动的线性系统输出，提出了一套统一的数学框架——广义白噪声包括高斯、拉普拉斯、泊松或α稳定分布，其中稀疏性由Lévy测度控制。关键贡献是基于$L_p$的这类过程的存在性条件，该条件推广了平稳CARMA过程，并通过稳定与非稳定系统实现了稀疏、非平稳过程的建模。

ABSTRACT

We introduce a general distributional framework that results in a unifying description and characterization of a rich variety of continuous-time stochastic processes. The cornerstone of our approach is an innovation model that is driven by some generalized white noise process, which may be Gaussian or not (e.g., Laplace, impulsive Poisson or alpha stable). This allows for a conceptual decoupling between the correlation properties of the process, which are imposed by the whitening operator L, and its sparsity pattern which is determined by the type of noise excitation. The latter is fully specified by a Levy measure. We show that the range of admissible innovation behavior varies between the purely Gaussian and super-sparse extremes. We prove that the corresponding generalized stochastic processes are well-defined mathematically provided that the (adjoint) inverse of the whitening operator satisfies some Lp bound for p>=1. We present a novel operator-based method that yields an explicit characterization of all Levy-driven processes that are solutions of constant-coefficient stochastic differential equations. When the underlying system is stable, we recover the family of stationary CARMA processes, including the Gaussian ones. The approach remains valid when the system is unstable and leads to the identification of potentially useful generalizations of the Levy processes, which are sparse and non-stationary. Finally, we show how we can apply finite difference operators to obtain a stationary characterization of these processes that is maximally decoupled and stable, irrespective of the location of the poles in the complex plane.

研究动机与目标

• 开发一个超越高斯模型的、通用且数学严谨的连续时间随机过程框架。
• 通过白化算子$\mathcal{L}$控制相关结构，通过创新噪声的Lévy测度控制稀疏性，实现二者的解耦。
• 将CARMA过程理论推广至非高斯、非平稳及不稳定系统。
• 在逆白化算子的广义$L_p$有界性条件下，建立广义随机过程的存在性与适定性。
• 证明这些过程在匹配的小波域中具有稀疏表示，从而实现高效的信号处理。

提出的方法

• 将随机过程表述为常系数SDE的解，其驱动项为广义白噪声，包括拉普拉斯、泊松和α稳定等非高斯类型。
• 采用创新模型：$s = \mathcal{T} w$，其中$w$为广义白噪声过程，$\mathcal{T}$为白化算子$\mathcal{L}$的逆。
• 通过噪声的Lévy-Khintchine表示，推导过程的特征泛函$\widehat{\mathscr{P}}_s(\varphi) = \mathbb{E}[e^{j\langle s, \varphi \rangle}]$。
• 在$\mathcal{T}^*$将$\mathcal{S}$映射到$L_p$（$p \geq 1$）的条件下，证明特征泛函在施瓦茨空间$\mathcal{S}$上为正定且连续，从而确立存在性。
• 将经典的$L_2$有界性要求推广至$L_p$，以增强鲁棒性，尤其适用于非对称及重尾噪声（如泊松和α稳定分布）。
• 证明所得过程为适定的广义随机过程，并在匹配的小波基下具有稀疏表示。

实验结果

研究问题

• RQ1 能否通过单一建模原则，建立统一的数学框架，同时描述连续时间下的高斯与稀疏随机过程？
• RQ2 如何系统性地通过创新噪声类型控制随机过程的稀疏性？Lévy测度在此过程中扮演何种角色？
• RQ3 系统算子需满足何种条件，才能确保非高斯、非平稳随机过程在连续域中的存在性与适定性？
• RQ4 经典的CARMA过程框架能否推广至不稳定系统与非高斯噪声源？
• RQ5 这些广义过程是否在小波域中具有稀疏表示？其变换域统计特性如何表征？

主要发现

• 若伴随的逆白化算子$\mathcal{T}^*$满足$L_p$有界性条件（$p \geq 1$），则广义随机过程是适定的，该条件推广了经典$L_2$要求。
• 该框架通过单一创新模型统一了高斯、拉普拉斯、泊松与α稳定过程，稀疏性由Lévy测度控制：高斯最不稀疏，α稳定最稀疏。
• 对于稳定系统，该方法通过基于算子的求解方式，恢复了完整的平稳CARMA过程族（包括非高斯情形）。
• 对于不稳定系统，该方法生成了新的非平稳、稀疏随机过程类，推广了Lévy过程。
• 这些过程在匹配的小波域中具有稀疏表示，其变换域统计特性完全由Lévy测度与系统算子表征。
• 该过程的特征泛函在施瓦茨空间上连续且正定，确保了唯一广义随机过程的存在性。