[論文レビュー] Adaptive estimation of spectral densities via wavelet thresholding and information projection

Jérémie Bigot, Rolando Biscay Lirio+2 more|arXiv (Cornell University)|Dec 10, 2009

Image and Signal Denoising Methods参考文献 20被引用数 3

ひとこと要約

本稿では、ウェーブレットスレッショーディングと指数型分布族への情報射影を組み合わせることで、定常ガウス過程のスペクトル密度に対するウェーブレットに基づく適応推定量を提案する。非負性が保証され、Besov空間上での最適なKullback-Leibler差違率が達成される。従来の線形手法に比べ、不均一な滑らかさの状況下で優れた性能を示す。

ABSTRACT

In this paper, we study the problem of adaptive estimation of the spectral density of a stationary Gaussian process. For this purpose, we consider a wavelet-based method which combines the ideas of wavelet approximation and estimation by information projection in order to warrants that the solution is a nonnegative function. The spectral density of the process is estimated by projecting the wavelet thresholding expansion of the periodogram onto a family of exponential functions. This ensures that the spectral density estimator is a strictly positive function. Then, by Bochner's theorem, the corresponding estimator of the covariance function is semidefinite positive. The theoretical behavior of the estimator is established in terms of rate of convergence of the Kullback-Leibler discrepancy over Besov classes. We also show the excellent practical performance of the estimator in some numerical experiments.

研究の動機と目的

• 定常ガウス過程のスペクトル密度に対する非負で適応的な推定量を構築し、共分散関数の非負定値性を保つこと。
• 線形スムージングや標準的なウェーブレットスレッショーディングの限界を克服し、負のスペクトル密度推定値を生じさせないこと。
• 密度推定に自然なKullback-Leibler差違に基づく理論的最適性を確立すること（$L_2$リスクではなく）。
• 不均一な滑らかさに適応する計算が単純なスレッショーディングルールを提案すること。
• 既存手法と比較して、有限標本における性能が優れていることを数値実験で示すこと。

提案手法

• 周期ogramの非線形ウェーブレット近似をハードスレッショーディングにより行い、ノイズを低減する。
• スレッショーディング済みウェーブレット係数を指数関数の族に射影することで、得られるスペクトル密度推定量が厳密に正であることを保証する。
• 情報射影を用いて、指数型分布族モデル内でのKullback-Leibler差違の最小化問題としてスペクトル密度を推定する。
• 推定量を $ f_{j_1(n), heta_n^{ ext{HT}}}^{HT} $ と定義し、$ \theta_n $ をスレッショーディング済みウェーブレット係数に一致させるように選ぶ。
• 周期ogramの局所的 $ l_1 $-ノルムに基づくスレッショーディングルールを採用し、分散のカーネル前推定を回避する。
• Besov空間ノルムとKullback-Leibler差違を用いて理論的バインディングを確立し、集中不等式とエントロピーの考察により収束速度を導出する。

実験結果

リサーチクエスチョン

• RQ1 ウェーブレットスレッショーディングと情報射影を組み合わせることで、不均一な滑らかさに適応する非負のスペクトル密度推定量が得られるか？
• RQ2 Besov空間上でのこの推定量のKullback-Leibler差違の収束速度はいかほどか？
• RQ3 理論的最適性および有限標本性能の観点から、本手法は既存の線形および非線形推定量と比べてどのように差がつくか？
• RQ4 適応性や収束速度を損なわずに、スレッショーディングルールを簡素化できるか？
• RQ5 情報射影ステップにより、推定量が厳密に正でありながら最適な推定精度を維持できるか？

主な発見

• 提案された推定量は、$ s > \frac{1}{p} $ を満たすBesov空間 $ F_{p,q}^s(M) $ 上で、Kullback-Leibler差違率が $ \left(\frac{n}{\log n}\right)^{-\frac{2s}{2s+1}} $ のオーダーで達成され、この損失関数に対する最適レートに一致する。
• 構成上、スペクトル密度推定量が厳密に正であることが保証され、対応する共分散関数の非負定値性が保たれる。
• 理論的解析により、推定誤差が $ F_{p,q}^s(M) $ 全体に一様にゼロに収束することが示され、$ \epsilon_{j_1(n)} \to 0 $ が $ n \to \infty $ のとき成り立つ。これにより一貫性が保証される。
• スレッショーディングルールは単純であり、分散のカーネル前推定を回避するため、低正則性のスペクトル密度に対してもロバストである。
• 数値実験により、優れた実用的性能が示され、既存手法に比べ推定精度と安定性に優れている。
• 不均一な滑らかさを示すスペクトル密度に対しても、線形手法が最適 $ L_2 $-レートを達成できない状況においても、推定量は最適レートを達成する。