[論文レビュー] The De-Biased Whittle Likelihood for Second-Order Stationary Stochastic Processes

Adam M. Sykulski, Sofia C. Olhede+1 more|arXiv (Cornell University)|May 22, 2016

Statistical Methods and Inference参考文献 31被引用数 5

ひとこと要約

本稿では、2次モーメント定常確率過程に対して、パrameter推定値のバイアスを是正するが、標準的な $Ó(n\log n)$ の計算効率を維持するデバイアス補正Whittle尤度法を提案する。この手法は一貫性を確保し、特にターピングや差分化といった既存のバイアス低減技術と組み合わせることで、推定精度を顕著に向上させる。

ABSTRACT

The Whittle likelihood is a computationally efficient pseudo-maximum likelihood inference procedure which is known to produce biased parameter estimates for large classes of time series models. We propose a method for de-biasing Whittle likelihood parameter estimates for second-order stationary stochastic processes. We demonstrate how to compute the de-biased Whittle likelihood in the same $\mathcal{O}(n\log n)$ computational efficiency as standard Whittle likelihood. We prove that the method is consistent, and demonstrate its superior performance in simulation studies. We also demonstrate how the method can be easily combined with standard methods of bias reduction, such as tapering and differencing, to further reduce bias in parameter estimates.

研究の動機と目的

• 2次モーメント定常確率過程におけるWhittle尤度のパrameter推定値に生じるバイアスという、古くからの問題に対処すること。
• 標準的なWhittle尤度の速度を損なわずに、このバイアスを是正する計算効率の高い手法を開発すること。
• デバイアス補正手法が、広範な時系列モデルクラスに適用可能で一貫性を保つようにすること。
• 既存のバイアス低減技術（例：ターピングや差分化）と互換性があることを示すこと。
• 厳密なシミュレーション研究および理論的一貫性の証明を通じて、手法の有効性を検証すること。

提案手法

• 2次モーメント定常過程における既知のパrameter推定バイアスを是正するために、標準的なWhittle尤度に補正項を導入する。
• 漸近的展開を用いて尤度のバイアスを解析的に導出し、補正項を定式化する。
• 高速フーリエ変換（FFT）を活用することで、元のWhittle尤度と同一の $Ó(n\log n)$ の計算複雑度を維持する。
• スペクトル領域で定式化されることで、スペクトル密度推定を介した効率的な計算が可能になる。
• モジュール式に設計されており、ターピングや差分化といった既存のバイアス低減戦略とスムーズに統合可能である。
• 2次モーメント定常過程の正則性条件の下で、デバイアス補正推定量の一貫性を形式的に証明する。

実験結果

リサーチクエスチョン

• RQ1 Whittle尤度を、計算効率を損なわずに体系的にバイアス補正することは可能か？
• RQ2 バイアスと平均二乗誤差の観点から、デバイアス補正Whittle尤度は標準的なWhittle尤度と比べてどのように性能を発揮するか？
• RQ3 ターピングや差分化といった既存のバイアス低減技術と、デバイアス補正手法をどの程度まで組み合わせられるか？
• RQ4 2次モーメント定常過程の標準的な正則性条件の下で、デバイアス補正Whittle推定量は一貫性を示すか？
• RQ5 元のWhittle尤度と比較して、バイアス補正手順にどの程度の計算オーバーヘッドが生じるか？

主な発見

• デバイアス補正Whittle尤度は、標準的なWhittle尤度と同一の $Ó(n\log n)$ の計算複雑度を達成しており、大規模データセットへのスケーラビリティを保証する。
• パrameter推定量が、標本サイズが増加するにつれて真の値に確率的に収束することを、理論的に証明した。
• シミュレーション研究により、さまざまな時系列モデルにおいて、標準的なWhittle尤度と比較して、デバイアス補正推定量が顕著にバイアスを低減することが示された。
• 特にバイアスが顕著に現れる小規模〜中規模の標本サイズにおいて、平均二乗誤差の性能が向上している。
• ターピングや差分化と効果的に組み合わせられ、さらに推定バイアスの低減が達成できる。
• 理論的枠組みにより、バイアス補正項を解析的に導出可能であり、計算コストの高いリサンプリング手法の必要性を回避できる。