[論文レビュー] Krigings Over Space and Time Based on Latent Low-Dimensional Structures

Da Huang, Qiwei Yao+1 more|arXiv (Cornell University)|Sep 22, 2016

Face and Expression Recognition被引用数 3

ひとこと要約

本稿では、不規則な空間的データと規則的な時系列データから学習される低次元の潜在的要因を用いて、非パラメトリックなkriging手法を空間時系列プロセスに提案する。固有値解析とグラフラプラシアン正則化、およびランダムな分割集合のアンサンブルを組み合わせることで、パラメトリックな共分散仮定や空間ステーションナリティを必要とせず、スケーラブルかつ高精度な予測が可能となり、計算コストを著しく削減しながら長距離空間相関を捉えることができる。

ABSTRACT

We propose a new approach to represent nonparametrically the linear dependence structure of a spatio-temporal process in terms of latent common factors. Though it is formally similar to the existing reduced rank approximation methods (Section 7.1.3 of Cressie and Wikle, 2011), the fundamental difference is that the low-dimensional structure is completely unknown in our setting, which is learned from the data collected irregularly over space but regularly over time. Furthermore a graph Laplacian is incorporated in the learning in order to take the advantage of the continuity over space, and a new aggregation method via randomly partitioning space is introduced to improve the efficiency. We do not impose any stationarity conditions over space either, as the learning is facilitated by the stationarity in time. Krigings over space and time are carried out based on the learned low-dimensional structure, which is scalable to the cases when the data are taken over a large number of locations and/or over a long time period. Asymptotic properties of the proposed methods are established. Illustration with both simulated and real data sets is also reported.

研究の動機と目的

• パラメトリックな共分散モデルの制限を避け、空間的・時系列的領域におけるスケーラブルな非パラメトリックなkriging手法の開発を目的とする。
• 空間ステーションナリティを仮定せず、不規則な空間配置のデータから、時間的に規則的なサンプリングを伴う低次元の潜在的要因構造を推定することを目的とする。
• 空間連続性をグラフラプラシアン正則化を用いて強制することで、要因推定とkrigingの精度を向上させることを目的とする。
• ランダムな空間的分割によるアンサンブルを導入することで、要因推定の分散を低減し、耐性性と効率性を高めることを目的とする。
• 潜在的要因の数に等しいサイズの行列の逆行列計算のみを必要とするため、空間的領域が大きく、時系列が長い場合の空間時系列予測を可能にする。

提案手法

• 本手法は、空間時系列プロセスを低ランクの潜在的要因構造でモデル化し、要因プロセスと負荷行列をデータから非パラメトリックに推定する。
• 空間的に分割されたデータセット間の共分散行列の固有値解析を用いて潜在的要因を抽出し、測定誤差（nugget効果）を明示的にモデル化する必要を回避する。
• 空間領域における局所的連続性を活用し、空間の滑らかさを強制するために、固有値解析にグラフラプラシアンを組み込む。
• バギングに類似したが、再サンプリングではなくランダムな分割を用いることで、要因推定の安定性を向上させるため、ランダムな空間的分割によるアンサンブルを適用する。
• 学習された低次元の要因構造を用いてkriging予測を実行し、要因数のサイズに等しい小さな行列の逆行列計算のみを必要とするため、スケーラビリティが確保される。
• 潜在的要因の数は、固有値に基づく比推定器により推定され、大規模なサンプルサイズにおいて良好な性能を示す。

実験結果

リサーチクエスチョン

• RQ1 不規則な空間的データと規則的な時系列データから、パラメトリックな共分散形態を仮定せずに、空間時系列依存の非パラメトリックで低ランクの表現を学習可能か？
• RQ2 空間ステーションナリティを仮定しない状況下で、空間連続性をどのように活用し、要因推定とkrigingの精度を向上させられるか？
• RQ3 ランダムな空間的分割によるアンサンブルは、単一の分割推定と比較して、分散低減と予測精度の向上に優れているか？
• RQ4 固有値解析にグラフラプラシアンを組み込むことで、潜在的要因の推定とkriging性能がどの程度向上するか？
• RQ5 本手法は、大規模な空間領域と長い時系列に対してどの程度スケーラブルか、特に従来のkrigingと比較して。

主な発見

• 空間krigingにおける平均二乗予測誤差（MSPE）は、空間的ノード数（p）が増加するにつれて減少し、p=320およびn=320のときMSPEは約1.02にまで低下する。
• 時系列krigingでは、空間krigingと比較してMSPEが高くなる傾向にあり、1ステップ先予測ではMSPEが約1.73、2ステップ先では1.88に達する。これは、時系列予測精度の低下が予想通りに現れていることを示している。
• アンサンブル処理を施したkriging推定器は、非アンサンブル版を常に上回り、シミュレーション設定ではMSPEを最大5%まで低減し、実データでも安定性が向上している。
• 要因数（d）の比推定器は、nとpが大きい場合に良好に機能し、100回の実データ再試行のうち98回でd=1が推定され、モデルの順序選択の耐性性が示された。
• 中国の気温観測所データを用いた実データ解析では、空間予測のMSPEは0.7718（SE 0.0444）、1ステップ先時系列予測では1.7303（SE 1.2583）であり、低い分散で優れた予測性能を示した。
• 最適なチューニングパラメータτは、再試行の93%で0より大きい値を示し、交差検証において正則化がモデルに利益をもたらしていることを示しており、グラフラプラシアンが推定の安定性を向上させた。