[論文レビュー] An autocovariance-based learning framework for high-dimensional functional time series

Jinyuan Chang, Cheng Chen+2 more|arXiv (Cornell University)|Aug 29, 2020

Statistical Methods and Inference参考文献 39被引用数 9

ひとこと要約

本稿は、高次元で自己相関のある関数時系列データおよび測定誤差を伴う高次元関数時系列のための自己共分散に基づく学習フレームワークを提案する。自己共分散関数を用いてノイズをフィルタリングすることで、自己共分散に基づく次元削減、スパarsityを促進するブロック正則化最小距離推定を実行し、シミュレーションおよび実データにおいて競合手法を上回る推定精度を達成する。

ABSTRACT

Many scientific and economic applications involve the statistical learning of high-dimensional functional time series, where the number of functional variables is comparable to, or even greater than, the number of serially dependent functional observations. In this paper, we model observed functional time series, which are subject to errors in the sense that each functional datum arises as the sum of two uncorrelated components, one dynamic and one white noise. Motivated from the fact that the autocovariance function of observed functional time series automatically filters out the noise term, we propose a three-step procedure by first performing autocovariance-based dimension reduction, then formulating a novel autocovariance-based block regularized minimum distance estimation framework to produce block sparse estimates, and based on which obtaining the final functional sparse estimates. We investigate theoretical properties of the proposed estimators, and illustrate the proposed estimation procedure via three sparse high-dimensional functional time series models. We demonstrate via both simulated and real datasets that our proposed estimators significantly outperform the competitors.

研究の動機と目的

• 関数変数の数が時系列の数と同等またはそれを上回る高次元関数時系列における統計的学習の課題に対処すること。
• 観測された関数時系列を、動的関数成分と独立同分布の測定誤差（ホワイトノイズ）の和としてモデル化し、両成分が無相関であることを仮定すること。
• 自己共分散関数がホワイトノイズを自然にフィルタリングできる能力を活用し、高次元設定においても頑健な推定を可能にするフレームワークの構築。
• 新規のブロック正則化最小距離推定手順を導入し、関数係数にスパarsityを実現すること。
• 測定誤差を伴う高次元関数時系列設定下で、提案された推定量の非漸近的理論的保証を確立すること。

提案手法

• 観測された関数時系列を $\mathbf{W}_t(\cdot) = \mathbf{X}_t(\cdot) + \mathbf{e}_t(\cdot)$ とモデル化し、$\mathbf{X}_t(\cdot)$ を動的成分、$\mathbf{e}_t(\cdot)$ をホワイトノイズとする。
• ホワイトノイズ $\mathbf{e}_t(\cdot)$ の自己共分散が非ゼロラグでゼロであるのを活用し、$\mathbf{W}_t(\cdot)$ の自己共分散関数を用いてホワイトノイズ成分を自動でフィルタリングする。
• 自己共分散作用素の固有関数を用いて関数データを有限次元部分空間に射影することで、自己共分散に基づく次元削減を実行する。
• 関数係数作用素を推定するためのブロック正則化最小距離推定手順を定式化し、関数変数間でブロックスパarsityを促進する。
• 関数係数のブロック内でのスパarsityを促進するため、グループlasso型のペナルティを適用し、解釈可能性と推定効率を向上させる。
• 測定誤差を伴う高次元関数時系列モデル下で、推定量の非漸近的収束速度を確立する。

実験結果

リサーチクエスチョン

• RQ1 ノイズを含む関数時系列の自己共分散関数を用いて、測定誤差をフィルタリングしながら、元の動的構造を一貫して推定できるか？
• RQ2 自己共分散に基づく射影を用いて、高次元関数時系列における効果的な次元削減をどのように実現できるか？
• RQ3 測定誤差を伴う高次元関数時系列設定下で、ブロック正則化最小距離推定量の理論的性能はいかほどか？
• RQ4 有限標本において、提案されたフレームワークは既存手法と比べて推定精度およびスパarsity回復の点で優れているか？
• RQ5 提案手法が、高次元関数時系列において一貫した変数選択と推定を達成するための条件は何か？

主な発見

• 提案された自己共分散に基づくフレームワークは、ホワイトノイズ成分を効果的にフィルタリングし、元の動的関数時系列構造の一貫した推定を可能にする。
• ブロック正則化最小距離推定量は、高次元設定下でも一貫した推定を達成し、推定誤差の非漸近的収束速度が確立されている。
• 有限標本において優れた性能を示し、シミュレーションおよび実データ（S&P 100株価リターン密度曲線など）の両方で、競合手法を著しく上回る。
• 理論的解析により、適切な条件下で推定量がスパarsity回復を達成することが確認され、ブロック構造が変数選択の精度を向上させている。
• 適切な正則化条件の下で、推定量の収束速度は $O_p(\sqrt{\log p / n})$ のオーダーとなり、良好な有限標本性能を示す。
• 実データ（例：S&P 100株価リターン密度）における実証的結果は、高次元関数時系列において意味のあるスパース構造を回復できることを確認している。