[논문 리뷰] A unified formulation of Gaussian vs. sparse stochastic processes - Part II: Discrete-domain theory

Michaël Unser, Pouya D. Tafti외 2명|arXiv (Cornell University)|2011. 08. 31.

Stochastic processes and financial applications참고 문헌 16인용 수 10

한 줄 요약

이 논문은 스퍼블 기반 형식과 일반화된 증분 과정을 활용하여 일반화된 CARMA 과정에 대한 통합된 이산 도메인 이론을 제시한다—정규 분포 및 희소 확률 과정을 확장함으로써. 이는 연속 시간 Lévy 구동 과정과 그 이산 시간 대응체 사이의 엄밀한 연결을 수립하여, B-스플라인 기반 화이트닝 연산자와 안정된 혁신 모델을 통해 제어 가능한 상관관계와 희소성을 갖는 희소 신호의 효율적 시뮬레이션과 특성 분석을 가능하게 한다.

ABSTRACT

This paper is devoted to the characterization of an extended family of CARMA (continuous-time autoregressive moving average) processes that are solutions of stochastic differential equations driven by white Levy innovations. These are completely specified by: (1) a set of poles and zeros that fixes their correlation structure, and (2) a canonical infinitely-divisible probability distribution that controls their degree of sparsity (with the Gaussian model corresponding to the least sparse scenario). The generalized CARMA processes are either stationary or non-stationary, depending on the location of the poles in the complex plane. The most basic non-stationary representatives (with a single pole at the origin) are the Levy processes, which are the non-Gaussian counterparts of Brownian motion. We focus on the general analog-to-discrete conversion problem and introduce a novel spline-based formalism that greatly simplifies the derivation of the correlation properties and joint probability distributions of the discrete versions of these processes. We also rely on the concept of generalized increment process, which suppresses all long range dependencies, to specify an equivalent discrete-domain innovation model. A crucial ingredient is the existence of a minimally-supported function associated with the whitening operator L; this B-spline, which is fundamental to our formulation, appears in most of our formulas, both at the level of the correlation and the characteristic function. We make use of these discrete-domain results to numerically generate illustrative examples of sparse signals that are consistent with the continuous-domain model.

연구 동기 및 목표

• 연속 시간 Lévy 노이즈에 의해 구동되는 CARMA 과정을 확장하여 이산 시간에서 정규 분포 및 희소 확률 과정 이론을 통합하기 위해.
• 장거리 의존성이 있는 비정규, 희소 과정에 대해 안정적이고 계산적으로 접근 가능한 이산 모델을 제작하는 데 도전하는 문제를 해결하기 위해.
• 이산 시간에서 상관 구조와 공동 분포를 유도하는 데 간편한 스퍼블 기반 형식을 개발하기 위해.
• 일반화된 증분 과정을 사용하여 이산 도메인 혁신 모델을 수립함으로써 장거리 의존성을 억제하고 연속 도메인 사양과의 호환성을 확보하기 위해.
• 최소 지지도를 갖는 B-스플라인 화이트닝 연산자를 통해 연속 시간 모델과 일치하는 수치적 신호 생성을 가능하게 하기 위해.

제안 방법

• 저자들은 화이트닝 연산자 $\mathcal{L}$와 관련된 최소 지지도 B-스플라인 함수를 중심으로 하는 스퍼블 기반 형식을 사용하여, 모든 상관 및 특성 함수 공식의 기초를 마련한다.
• 장거리 의존성을 제거하고 등가의 이산 도메인 혁신 모델을 유도하기 위해 일반화된 증분 과정의 개념을 도입한다.
• 이산 시간 과정은 백색 Lévy 노이즈에 대해 역 연산자 $\mathcal{L}^{-1}$ 를 적용함으로써 유도되며, 경계 조건은 수반 연산자 $\mathcal{I}^*_{\omega_0,\varphi_0}$ 를 통해 기술된다.
• 이 방법은 역 연산자의 푸리에 기반 표현에 의존하여, $L_p$ 및 $\mathcal{S}$ 공간에서 비특이 적분과 연속성을 보장한다.
• 감쇠 특성을 갖는 수반 연산자 $\mathcal{I}^*_{\omega_0,\varphi_0}$ 는 $\left|\mathcal{I}^*_{\omega_0,\varphi_0}f(t)\right| < C_{\varphi_0} \frac{\|f\|_{\infty,r}}{1+|t|^{r-1}}$ 를 만족하며, 이는 안정성과 연속성을 증명한다.
• 고차수 시스템의 경우, 역 연산자 $\mathcal{L}^{-1*}$ 는 기본 수반 연산자 $\mathcal{I}^*_{\omega_i,\varphi_i}$ 의 복합체와 표준 $\mathcal{S}$-연속 컨볼루션 $\mathcal{T}_{\text{LSI}}$ 로 구성된다.

실험 결과

연구 질문

• RQ1 Gaussian 및 희소(비정규) 확률 과정을 모두 포함하는 CARMA 과정에 대해 통합된 이산 도메인 공식을 어떻게 도출할 수 있는가?
• RQ2 B-스플라인이 Lévy 구동 과정의 이산 표현을 안정화하고 상관 및 특성 함수의 효율적 계산을 가능하게 하는 데 어떤 역할을 하는가?
• RQ3 이산 시간 모델에서 장거리 의존성을 어떻게 제거하면서도 연속 시간 과정의 통계적 성질을 유지할 수 있는가?
• RQ4 연속 도메인 시스템 이론 프레임워크와의 호환성을 보장하는 이산 혁신 모델의 수학적 구조는 무엇인가?
• RQ5 기본 연속 시간 Lévy 과정의 희소성과 상관 구조를 반영하는 이산 시간 과정을 어떻게 수치적으로 생성할 수 있는가?

주요 결과

• 일반화된 CARMA 과정의 이산 시간 형태는 시스템의 영과 제로, 그리고 Lévy 혁신의 정규화된 무한히 나누어지는 분포에 의해 완전히 특징지어지며, 정규 과정는 가장 희소성이 낮은 경우에 해당한다.
• 화이트닝 연산자 $\mathcal{L}$ 와 관련된 B-스플라인 함수는 모든 상관 및 특성 함수 공식의 기본 구성 요소로 기능한다.
• 일반화된 증분 과정은 장거리 의존성을 효과적으로 억제하여 안정적이고 역행 가능한 이산 도메인 혁신 모델을 가능하게 한다.
• 수반 연산자 $\mathcal{I}^*_{\omega_0,\varphi_0}$ 는 $\mathcal{S}$ 및 $L_p$ 공간에서 연속이며 감쇠 속도가 $O(1/|t|^{r-1})$ 이므로 수치적 안정성을 보장한다.
• 수반 연산자로부터 유도된 이산 경계 조건은 연속 대응 조건과 엄밀히 동치이며, 연속 및 이산 공식 간의 일致성을 보장한다.
• 제안된 프레임워크는 연속 시간 Lévy 구동 모델과 일치하는 정확한 수치적 희소 신호 생성을 가능하게 하여, 희소성 촉진 신호 처리 분야에서의 실용적 유용성을 검증한다.