[論文レビュー] Exploiting statistical dependencies of time series with hierarchical correlation reconstruction

Jarek Duda|arXiv (Cornell University)|Jul 11, 2018

Blind Source Separation Techniques参考文献 14被引用数 9

ひとこと要約

本稿では、時系列の連合確率分布をモデル化するための直交多項式基底関数を用いた階層的相関再構成手法を提案する。この手法により、最近値などの文脈を活用して、将来的な値分布の正確な予測が可能になる。アプローチは、平均二乗誤差（MSE）最適化を用いて、一意で解釈可能な係数を計算し、任意の実際の連合分布を漸近的に記述する。これは、非ガウス型のリターンに対して特に優れた性能を示し、ガウス型ARMA/ARCHモデルを凌駕する。加えて、柔軟で非定常な適応が可能であり、スパースな基底選択も可能である。

ABSTRACT

While we are usually focused on forecasting future values of time series, it is often valuable to additionally predict their entire probability distributions, e.g. to evaluate risk, Monte Carlo simulations. On example of time series of $\approx$ 30000 Dow Jones Industrial Averages, there will be presented application of hierarchical correlation reconstruction for this purpose: MSE estimating polynomial as joint density for (current value, context), where context is for example a few previous values. Then substituting the currently observed context and normalizing density to 1, we get predicted probability distribution for the current value. In contrast to standard machine learning approaches like neural networks, optimal polynomial coefficients here have inexpensive direct formula, have controllable accuracy, are unique and independently calculated, each has a specific cumulant-like interpretation, and such approximation can asymptotically approach complete description of any real joint distribution - providing universal tool to quantitatively describe and exploit statistical dependencies in time series, systematically enhancing ARMA/ARCH-like approaches, also based on different distributions than Gaussian which turns out improper for daily log returns. There is also discussed application for non-stationary time series like calculating linear time trend, or adapting coefficients to local statistical behavior.

研究の動機と目的

• 2次元相関を超える複雑な統計的依存関係をモデル化するための普遍的で非パラメトリックな手法の開発。
• ARMA/ARCHのようなガウス型モデルの限界を克服し、金融リターンの重たい尾部行動を捉えられないことへの対処。
• 文脈的情報（例：直前の値）を用いて、現在の値の完全な条件付き確率分布の予測を可能にし、リスク評価とモンテカルロシミュレーションの改善。
• 一意で独立して計算可能な係数を提供するフレームワークを構築し、その係数が累積モーメントに類似した明確な解釈を持ち、制御可能な精度を有すること。
• 局所的な統計的挙動に係数を適応させるか、トレンドを直接モデル化することで、非定常時系列への拡張。

提案手法

• 時系列の値（例：リターン）を、パラメトリック分布（例：ラプラス）の累積分布関数（CDF）を用いて、概ね[0,1]の一様分布に正規化することで、尾部のモデル化と係数の標準化を改善。
• 正規化された変数上に、1次元直交多項式（例：ルジャンドルに類似）の積を用いて、多変量直交多項式基底を構築。
• 平均二乗誤差（MSE）最適化により多項式係数を推定し、各係数はデータサンプル上での対応する基底関数の経験的平均に単純に等しい。
• 現在の値と文脈（例：直近5つの値）の多項式として連合密度を再構成し、観測された文脈で条件付け、積分が1に規格化されるようにして予測用周辺密度を取得。
• 計算コストを削減するため、有意義な係数のみを保持するスパース基底選択を適用し、少数の変数間の関連する混合モーメントに焦点を当てる。
• ARCHなどの既存モデルと統合するため、それらの予測分布を用いてデータを正規化し、残差の依存関係を多項式展開でモデル化。

実験結果

リサーチクエスチョン

• RQ1 多項式ベースの連合密度推定アプローチは、特に非ガウス型リターンに対して、標準的なARMA/ARCHモデルを体系的に上回り、時系列の完全な予測分布を捉えることができるか？
• RQ2 多項式係数は統計的モーメントとどのように関係しており、累積モーメントに類似した意味的な解釈が可能か？ また、連合分布の正確な再構成を可能にするか？
• RQ3 局所的に係数を適応させるか、トレンドを明示的にモデル化することで、非定常時系列への対処はどの程度可能か？
• RQ4 モデルの複雑さ（係数の数）と予測精度のトレードオフは何か？ 予測過剰適合（例：負の密度）は、データ駆動型手法を用いてどのように補正可能か？
• RQ5 Dow Jones Industrial Averageのような実際の金融時系列に適用した場合、ガウス型モデルに比べて、対数尤度と無条件カバレッジの両方で本手法が優れているか？

主な発見

• 本手法は、高次依存性を活用した結果、ラプラスベースのベースラインに比べて平均予測密度が1.09倍向上し、予測精度の顕著な向上を示した。
• 約80％のケースで、文脈に依存する多項式モデルが、一様分布（ρ=1）ベースラインを上回り、予測密度が無条件の一様分布よりも顕著に高くなった。
• 予測密度が負である（正の確率が低い）状況は、データ駆動型最適化により補正可能であり、予測力に損なわれることなく解釈可能性が向上した。
• 基底サイズと標本サイズが増大するに従い、本手法は任意の実際の連合分布に漸近的に近づくため、統計的依存関係をモデル化する普遍的なツールを提供する。
• スパース基底選択により計算コストが削減されつつも予測性能が維持され、わずか数パーセントの係数が顕著な統計的情報を担っていることが示唆された。
• 特に、正規分布とは一致しない重たい尾部行動を示す日次リターンに対して、本手法は対数尤度と無条件カバレッジの両面で、標準的なガウス型モデルを上回った。