[論文レビュー] How Many Components should be Retained from a Multivariate Time Series PCA?

Alethea Rea, William Rea|arXiv (Cornell University)|Oct 12, 2016

Time Series Analysis and Forecasting参考文献 6被引用数 24

ひとこと要約

本稿では、多変量時系列解析における主成分（PC）の数を決定するために、2つの新しい可視化手法—スライディングウインドウによるPCA係数のヒートマップと固有ベクトルの角度追跡—を提案する。これらの手法は、時間経過に伴う構造的変化と意味の安定性を明らかにし、金融および気象データにおいては、標準的手法が最大10–11個の成分を保持すると示唆する一方で、実際には最初の1つか2つのPCしか一貫した解釈可能性を保っていないことを示している。

ABSTRACT

We report on the results of two new approaches to considering how many principal components to retain from an analysis of a multivariate time series. The first is by using a "heat map" based approach. A heat map in this context refers to a series of principal component coefficients created by applying a sliding window to a multivariate time series. Furthermore the heat maps can provide detailed insights into the evolution of the structure of each principal component over time. The second is by examining the change of the angle of the principal component over time within the high-dimensional data space. We provide evidence that both are useful in studying structure and evolution of a multivariate time series.

研究の動機と目的

• 標準的な「ルール of thumb」が一貫性のない結果をもたらす場合に、多変量時系列PCAにおける主成分の数をどう選択するかという重要な課題に対処すること。
• 保持された主成分が、サンプル期間全体にわたり一貫した解釈可能性と構造的意味を持つかどうかを調査すること。
• 時間経過に伴う成分の安定性と構造を評価するための、2つの新しい可視化手法—ヒートマップと固有ベクトル角度追跡—の開発および検証すること。
• 時間的変動と解釈可能性を組み込むことで、従来の選択手法を補完するフレームワークを提供すること。

提案手法

• 多変量時系列にスライディングウインドウを適用し、時間経過に伴う主成分係数を計算することで、成分構造の動的分析を可能にする。
• スライディングウインドウによるPCA係数からヒートマップを作成し、成分負荷の変化を可視化し、構造的パターンやシフトを検出する。
• 各成分内の変数を並べ替えることで解釈可能性を向上させ、ヒートマップの可視化において一貫したグループ化を明らかにする。
• 時間経過に伴う連続する固有ベクトル間の角度を追跡し、高次元空間における主な変動の方向の変化を検出する。
• 角度の変化を不安定性のサインとして用いる—大きな角度のシフトは、データ構造または成分の意味の変化を示唆する。
• これらの2つの手法を、累積寄与率、スクリープロット、カイザーの基準（Kaiser’s rule）などの標準的手法と組み合わせ、成分保持意思決定の検証および精緻化を行う。

実験結果

リサーチクエスチョン

• RQ1 標準的な選択ルールが矛盾する結果をもたらす場合、多変量時系列PCAにおいてどの程度の主成分を保持すべきか？
• RQ2 主成分は、サンプル期間全体にわたり一貫した解釈可能性と構造的意味を持つのか？
• RQ3 スライディングウインドウによるPCA係数のヒートマップは、時間経過に伴う成分負荷の意味のあるパターンや構造的変化を明らかにできるか？
• RQ4 連続する固有ベクトル間の角度は、時間経過で顕著に変化するか？ これは、主な変動要因の変化を示唆するか？
• RQ5 時間的安定性と解釈可能性を組み込むことで、提案手法は従来のPCA成分選択をどの程度改善するか？

主な発見

• FTSE 250金融データにおいては、標準的手法が最大109個（カイザーの基準）または10個（スクリープロット）の成分を保持すると示唆する一方で、ヒートマップと角度解析は、最初の1つか2つの成分しか安定的かつ解釈可能な構造を保っていないことを示している。
• FTSE 250データにおける最初の主成分は、一貫してマーケット全体の影響（係数が低い構造A）を示し、これは広範なマーケット要因として解釈されることを支持している。
• 金融データにおけるPC2以降の成分は、負荷の変化が著しく増大し、不安定になる傾向を示しており、一貫した金融的意味を持たず、解釈のために保持すべきではない。
• オーストラリアの日次最高気温データにおいては、ヒートマップと角度解析により、最初の成分が全体の天候状態（係数が高い構造A）を表していることが確認され、2番目から8番目までの成分は検出可能ではあるが、変動する構造的パターンを示している。
• 両データセットにおける角度変動解析から、最初の主成分のみが時間経過に伴い安定した方向性を示しているのに対し、以降の成分は顕著な角度のシフトを示しており、解釈可能性の喪失を示唆している。
• ヒートマップと角度追跡の組み合わせにより、標準的手法のみに比べて、成分構造と時間的変化に関するはるかに詳細なインサイトが得られ、特に成分が意味を失い始める時期の特定に優れている。