[論文レビュー] Inferring serial correlation with dynamic backgrounds

Wei Song, Yao Xie+1 more|arXiv (Cornell University)|Jul 18, 2021

Statistical Methods and Inference被引用数 1

ひとこと要約

本稿では、未知で非構造的かつ動的な背景を持つ逐次データにおける自己相関の推定を目的として、Ljung-Box検定に基づくチューニングを施した全変動制約付き最小二乗推定量を提案する。この手法は、近似的に最適な推定誤差バインディングを達成し、シミュレーションおよび心理的研究において優れた実証的性能を示す。

ABSTRACT

Sequential data with serial correlation and an unknown, unstructured, and dynamic background is ubiquitous in neuroscience, psychology, and econometrics. Inferring serial correlation for such data is a fundamental challenge in statistics. We propose a total variation constrained least square estimator coupled with hypothesis tests to infer the serial correlation in the presence of unknown and unstructured dynamic background. The total variation constraint on the dynamic background encourages a piece-wise constant structure, which can approximate a wide range of dynamic backgrounds. The tuning parameter is selected via the Ljung-Box test to control the bias-variance trade-off. We establish a non-asymptotic upper bound for the estimation error through variational inequalities. We also derive a lower error bound via Fano's method and show the proposed method is near-optimal. Numerical simulation and a real study in psychology demonstrate the excellent performance of our proposed method compared with the state-of-the-art.

研究の動機と目的

• 背景が未知で非構造的かつ動的に変化する状況下での逐次データにおける自己相関推定の課題に対処すること。
• 複雑で非パラメトリックな背景トレンドから自己相関を効果的に分離できる統計的推定量の開発。
• 推定手法の非漸近的誤差バインディングを確立し、その近似的最適性を示すこと。
• 実世界の応用においてバイアスと分散のトレードオフをバランスさせるために、Ljung-Box検定を用いた実用的なチューニング戦略の提供。

提案手法

• 本手法は、動的背景を区分的定数としてモデル化することで、複雑で非構造的なトレンドを柔軟に近似可能な全変動制約付き最小二乗推定量を採用する。
• 全変動ペナルティのチューニングパラメータは、有限標本におけるバイアス-分散トレードオフを制御するためにLjung-Box検定を用いて選択される。
• 理論的分析では、変分不等式を用いて、自己相関パラメータの推定誤差に対する非漸近的上界を導出する。
• Fanoの方法を用いて下界を導出し、提案手法の最小最大意味での近的最適性を確立する。
• 背景プロセスのモデル不適合に対してもロバストであるように設計されている。
• 仮説検定を統合することで、背景補正後の自己相関の存在を検証するフレームワークを構築する。

実験結果

リサーチクエスチョン

• RQ1 未知で動的かつ非構造的な背景が存在する中で、全変動制約付き推定量は自己相関を効果的に回復できるか？
• RQ2 背景の事前知識が得られない状況下で、バイアスと分散のトレードオフをバランスさせるためにチューニングパラメータを実用的にどのように選択できるか？
• RQ3 このような複雑な背景条件下で、自己相関の推定精度の理論的限界は何か？
• RQ4 提案手法は理論的下界と比較して推定誤差の意味で近的最適か？
• RQ5 実世界のデータにおいて、最先端の手法と比較して、本手法の実証的性能はいかがであるか？

主な発見

• 提案手法は、変分不等式を用いて非漸近的上界として推定誤差のバインディングを達成した。
• Fanoの方法を用いて下界を確立し、提案手法が最小最大意味で近的最適であることを確認した。
• Ljung-Box検定に基づくチューニング戦略は、有限標本におけるバイアス-分散トレードオフを効果的に制御した。
• 数値シミュレーションでは、複雑な背景トレンド下での自己相関検出において、最先端の手法を上回る性能を示した。
• 心理学分野の実世界研究により、本手法の実用的有用性と逐次的行動データ解析におけるロバスト性が確認された。
• 全変動による区分的定数仮定のおかげで、背景に滑らかでない急変動が存在する場合でも、本手法は強固な性能を維持した。