[論文レビュー] On the use of the Gram matrix for multivariate functional principal components analysis

Steven Golovkine, Edward Gunning+2 more|arXiv (Cornell University)|Jun 22, 2023

Spectroscopy and Chemometric AnalysesChemistry被引用数 3

ひとこと要約

本稿は、関数的曲線間の内積のグラム行列を活用することで、観測空間と特徴空間の双対性を確立し、多変量関数的主成分分析（MFPCA）の新しい手法を提案する。この手法は、グラム行列の固有値分解により固有成分を推定し、直接の共分散作用素の推定を回避することで、計算が効率的になる。また、弱い条件下でも標準的なMFPCAと理論的に同等となる。

ABSTRACT

Dimension reduction is crucial in functional data analysis (FDA). The key tool to reduce the dimension of the data is functional principal component analysis. Existing approaches for functional principal component analysis usually involve the diagonalization of the covariance operator. With the increasing size and complexity of functional datasets, estimating the covariance operator has become more challenging. Therefore, there is a growing need for efficient methodologies to estimate the eigencomponents. Using the duality of the space of observations and the space of functional features, we propose to use the inner-product between the curves to estimate the eigenelements of multivariate and multidimensional functional datasets. The relationship between the eigenelements of the covariance operator and those of the inner-product matrix is established. We explore the application of these methodologies in several FDA settings and provide general guidance on their usability.

研究の動機と目的

• 高次元の多変量関数的データ解析における計算および推定の課題に対処する。
• 複雑な関数的データセットにおける共分散作用素の推定の難しさを克服する。
• 観測空間と特徴空間の双対性を活用して、固有成分の推定を簡素化する。
• 共分散作用素に基づく従来のMFPCA手法の計算効率の良い代替手法を提供する。
• グラム行列から得られる固有成分と共分散作用素から得られる固有成分との理論的同等性を確立する。

提案手法

• 関数的データを曲線間の内積の行列として定式化し、グラム行列を構築する。
• グラム行列に固有値分解を適用して主成分およびスコアを抽出する。
• 観測（行）と関数的特徴（列）の間の双対性原理を用いて、グラム行列の固有構造と共分散作用素の固有構造を関連付ける。
• 行列変換を介して、グラム行列の固有値および固有ベクトルと共分散作用素のそれらとの関係を導出する。
• グラム行列の分解から得られる係数と基底展開を用いて固有関数を再構築する。
• 正規化と一貫性を保つために、重み行列と射影作用素を組み込み、直交性および単位ノルム制約を維持する。

Figure 1 : Functional data matrix, adapted from Berrendero et al., ( 2011 ) .

実験結果

リサーチクエスチョン

• RQ1 多変量関数的データにおける共分散作用素の固有成分は、内積のグラム行列を用いて理論的に同等に推定可能か？
• RQ2 関数的データにおける観測空間と特徴空間の双対性は、共分散作用素の直接推定を回避しつつ、効率的なMFPCAを可能にするか？
• RQ3 グラム行列の固有値および固有ベクトルと真の共分散作用素のそれらとの理論的関係は何か？
• RQ4 提案手法は、既存のMFPCA技術と比較して性能および計算効率においてどのように異なるか？
• RQ5 グラム行列アプローチは、どのような条件下で多変量関数的データにおける主成分の一貫性および安定性のある推定を達成するか？

主な発見

• グラム行列の固有値は、共分散作用素の固有値に等しく、理論的同等性が確立される。
• グラム行列の固有ベクトルは、データ行列および重み行列を含む変換を通じて、共分散作用素の固有関数と関連づけられる。
• スコアは、内積の線形結合として直接グラム行列から推定可能であり、固有値の逆平方根を含む導出式が得られる。
• この手法により、共分散作用素を明示的に計算せずに次元削減が可能となり、計算負荷が低減される。
• 異なる定義域に定義された多変量関数的データに対しても有効であり、適切な重み付けにより正規化が可能である。
• 理論的導出により、標準的な関数的データの仮定のもとで、グラム行列アプローチが一貫した主成分の推定をもたらすことが確認された。

Figure 5 : Ratio of computation time for Scenario 1 between the Gram matrix method and the covariance operator method. Each univariate component is defined on a one-dimensional domain. $N$ is the number of observations, $M$ is the number of sampling points per curve and $P$ is the number of features