[論文レビュー] A unified formulation of Gaussian vs. sparse stochastic processes - Part I: Continuous-domain theory

Michaël Unser, Pouya D. Tafti+1 more|arXiv (Cornell University)|Aug 31, 2011

Probabilistic and Robust Engineering Design参考文献 35被引用数 14

ひとこと要約

本稿は、一般化された白色ノイズ（ガウス型、ラプラス型、ポアソン型、アーファ安定型）によって駆動される線形システムの出力として、連続的領域における確率過程をモデル化することにより、連続的領域の確率過程の包括的数学的枠組みを提示する。スパarsityはリーヴィ測度によって制御される。主な貢献は、これらの過程の存在条件を $L_p$-に基づくものに厳密に定式化したことであり、定常CARMA過程を一般化し、安定および不安定なシステムを用いたスパースで非定常な過程のモデリングを可能にする。

ABSTRACT

We introduce a general distributional framework that results in a unifying description and characterization of a rich variety of continuous-time stochastic processes. The cornerstone of our approach is an innovation model that is driven by some generalized white noise process, which may be Gaussian or not (e.g., Laplace, impulsive Poisson or alpha stable). This allows for a conceptual decoupling between the correlation properties of the process, which are imposed by the whitening operator L, and its sparsity pattern which is determined by the type of noise excitation. The latter is fully specified by a Levy measure. We show that the range of admissible innovation behavior varies between the purely Gaussian and super-sparse extremes. We prove that the corresponding generalized stochastic processes are well-defined mathematically provided that the (adjoint) inverse of the whitening operator satisfies some Lp bound for p>=1. We present a novel operator-based method that yields an explicit characterization of all Levy-driven processes that are solutions of constant-coefficient stochastic differential equations. When the underlying system is stable, we recover the family of stationary CARMA processes, including the Gaussian ones. The approach remains valid when the system is unstable and leads to the identification of potentially useful generalizations of the Levy processes, which are sparse and non-stationary. Finally, we show how we can apply finite difference operators to obtain a stationary characterization of these processes that is maximally decoupled and stable, irrespective of the location of the poles in the complex plane.

研究の動機と目的

• ガウスモデルを超える連続時間確率過程の一般的で数学的に厳密な枠組みの構築。
• 相関構造（ホワイトニング作用素 $\mathcal{L}$ を通じて）とスパarsity（インノベーションノイズのリーヴィ測度を通じて）の分離。
• CARMA過程理論を非ガウス型、非定常型、不安定システムにまで拡張すること。
• 逆ホワイトニング作用素の $L_p$-有界性条件の一般化に基づき、一般化された確率過程の存在および適切に定義された性質の確立。
• これらの過程が一致するウェーブレット領域でスパース表現を有することを示し、効率的な信号処理を可能にする。

提案手法

• 定数係数SDEに一般化された白色ノイズ（ラプラス型、ポアソン型、アーファ安定型など非ガウス型を含む）を駆動源として用いることで、確率過程を定式化する。
• インノベーションモデル：$s = \mathcal{T} w$、ここで $w$ は一般化された白色ノイズ過程であり、$\mathcal{T}$ はホワイトニング作用素 $\mathcal{L}$ の逆作用素である。
• 特性関数 $\widehat{\mathscr{P}}_s(\varphi) = \mathbb{E}[e^{j\langle s, \varphi \rangle}]$ を用いて過程を特徴づけ、ノイズのリーヴィ＝キンチン表現に基づく。
• 逆ホワイトニング作用素の随伴作用素 $\mathcal{T}^*$ が $\mathcal{S}$（スワーツ空間）を $L_p$（$p \geq 1$）に写像するという条件下で、特性関数が正定値かつ連続であることを証明することで、存在を確立する。
• 古典的な $L_2$-有界性要件を、非対称および重尾型ノイズ（ポアソン型、アーファ安定型など）に対してもロバストであるように $L_p$ に一般化する。
• 得られた過程が適切に定義された一般化された確率過程であり、一致するウェーブレット基底においてスパース表現を有することを証明する。

実験結果

リサーチクエスチョン

• RQ1 ガウス型とスパースな確率過程を、同一のモデリング原理で連続時間領域で包括的に記述できるか。
• RQ2 インノベーションノイズの種別によって、確率過程のスパarsityを体系的に制御する方法は何か？また、リーヴィ測度はこの制御において果たす役割は何か。
• RQ3 非ガウス型、非定常型の連続的領域における確率過程の存在および適切に定義された性質を保証するためのシステム作用素に必要な条件は何か。
• RQ4 古典的CARMA過程フレームワークを不安定システムおよび非ガウス型ノイズ源にまで拡張可能か。
• RQ5 これらの一般化された過程はウェーブレット領域でスパース表現を有するか？また、その変換領域における統計特性はどのように特徴づけられるか。

主な発見

• 逆ホワイトニング作用素の随伴作用素 $\mathcal{T}^*$ が $p \geq 1$ に対して $L_p$-有界性条件を満たす場合、一般化された確率過程は適切に定義される。これは古典的な $L_2$-要件を一般化したものである。
• 本フレームワークは、ガウス型、ラプラス型、ポアソン型、アーファ安定型の過程を、同一のインノベーションモデルで統合し、スパarsityはリーヴィ測度によって制御される。ガウス型が最もスパースでなく、アーファ安定型が最もスパースである。
• 安定システムの場合、作用素に基づく解法により、非ガウス型を含む定常CARMA過程の全族が回復される。
• 不安定システムの場合、本手法は、リーヴィ過程を一般化する、非定常でスパースな確率過程の新たなクラスを導く。
• 過程は一致するウェーブレット領域でスパース表現を有し、その変換領域における統計特性は、リーヴィ測度およびシステム作用素によって完全に特徴づけられる。
• 過程の特性関数はスワーツ空間上で連続的かつ正定値であり、一意な一般化された確率過程の存在を保証する。