[論文レビュー] Modelling matrix time series via a tensor CP-decomposition

Jinyuan Chang, Jing He+2 more|arXiv (Cornell University)|Dec 31, 2021

Tensor decomposition and applications被引用数 4

ひとこと要約

本稿は、繰り返し手法（例：ALS）の限界を克服し、系列依存性を活用する一般化固有値解析を用いて、行列時系列のテンソルCP分解の新規1パス推定手順を提案する。この手法は、確率的収束率が保証された一貫した成分ベクトル推定を達成し、ランク低下した一般化固有問題をフルランクの標準固有方程式に変換する洗練された射影技術により、有限標本性能が著しく向上する。

ABSTRACT

We consider to model matrix time series based on a tensor CP-decomposition. Instead of using an iterative algorithm which is the standard practice for estimating CP-decompositions, we propose a new and one-pass estimation procedure based on a generalized eigenanalysis constructed from the serial dependence structure of the underlying process. To overcome the intricacy of solving a rank-reduced generalized eigenequation, we propose a further refined approach which projects it into a lower-dimensional full-ranked eigenequation. This refined method improves significantly the finite-sample performance of the estimation. The asymptotic theory has been established under a general setting without the stationarity. It shows, for example, that all the component coefficient vectors in the CP-decomposition are estimated consistently with certain convergence rates. The proposed model and the estimation method are also illustrated with both simulated and real data; showing effective dimension-reduction in modelling and forecasting matrix time series.

研究の動機と目的

• 高次元行列時系列モデルにおける過剰パラメータ化を是正し、効果的な次元削減を達成すること。
• ALSのような反復アルゴリズムの欠点（収束が遅く、初期値に敏感であること）を克服すること。
• 反復を回避し、データの系列依存構造を活用する1パス推定手順を開発すること。
• 一般で非定常な設定下でのCP分解に対する漸近的理論を確立すること。
• 射影を用いてランク低下した一般化固有問題をフルランク固有方程式に変換することで、有限標本性能を向上させること。

提案手法

• 行列時系列の系列依存構造から一般化固有値解析問題を構築し、反復最適化の代わりに用いる。
• ランク低下した一般化固有方程式を低次元のフルランク固有方程式に射影する洗練されたアプローチを導入し、計算を簡素化する。
• 推定手順は1パスであり、ALSで一般的に見られる初期化や複数回の反復の必要がない。
• この手法は、行列時系列の前面スライスからなる $p \times q \times n$ テンソルのテンソルコア・ポリアド（CP）分解に基づいている。
• 定常性を仮定せず、成分係数ベクトルの一致性と収束率を確立する漸近的理論を構築する。
• シミュレーションと実データを用いた検証により、効果的な次元削減と予測性能の向上が示された。

実験結果

リサーチクエスチョン

• RQ1 反復手法の収束や初期値依存の問題を回避できる、行列時系列のテンソルCP分解のための1パス推定手順を開発できるか？
• RQ2 行列時系列の系列依存性をどのように活用し、CP分解のための一般化固有値解析フレームワークを構築できるか？
• RQ3 ランク低下した一般化固有問題をフルランク標準固有方程式に変換する洗練された射影法の有限標本性能はいかほどか？
• RQ4 提案手法は非定常設定下でも成分ベクトルの一致推定を達成できるか？
• RQ5 予測精度と次元削減の観点から、従来のTuckerベースや反復CP分解手法と比較して、本手法はどのように差をつけるか？

主な発見

• 提案された1パス推定手順は、定常性を仮定しない状況下でも、CP分解におけるすべての成分係数ベクトルの一致推定を達成し、確立された収束率を有する。
• 洗練された射影法により、複雑なランク低下一般化固有問題が解けるフルランク固有方程式に変換され、有限標本性能が顕著に向上する。
• シミュレーション結果から、本手法は標準ALSおよびランダム初期化手法を上回り、さまざまな $p$, $q$, および $n$ の設定で平均二乗誤差が低くなることが示された。
• 実データ例では、ベースラインモデルと比較して次元削減が効果的であり、予測精度が向上した。
• 本手法は、さまざまな行列サイズとノイズレベルにおいてもロバストであり、RMSE指標において一貫した性能向上を示した。
• 漸近的理論により、一般で非定常な設定下でも推定量の有効性が確認され、従来の因子モデルを超えた応用範囲が拡大された。