[論文レビュー] New Interpretation of Principal Components Analysis

Zenon Gniazdowski|arXiv (Cornell University)|Nov 10, 2017

Scientific Research and Discoveries参考文献 7被引用数 27

ひとこと要約

本稿は、相関係数と決定係数を仮想的データ空間内のベクトルの射影として再解釈することで、主成分分析（PCA）の幾何的再解釈を提示する。再構築精度に基づく主成分の選択基準と、主成分に対する変数の類似性に基づく新しい縦方向クラスタリング手法を提案し、テンソルベースのデータの異方性と仮想的データ表現を用いて古典的PCAを拡張する。

ABSTRACT

A new look on the principal component analysis has been presented. Firstly, a geometric interpretation of determination coefficient was shown. In turn, the ability to represent the analyzed data and their interdependencies in the form of easy-to-understand basic geometric structures was shown. As a result of the analysis of these structures it was proposed to enrich the classical PCA. In particular, it was proposed a new criterion for the selection of important principal components and a new algorithm for clustering primary variables by their level of similarity to the principal components. Virtual and real data spaces, as well as tensor operations on data, have also been identified.The anisotropy of the data was identified too.

研究の動機と目的

• 仮想的データ空間におけるベクトル分解とピタゴラスの定理を用いたPCAの幾何的解釈を提供すること。
• 古典的PCAにおける主成分選択の限界を補うために、再構築に基づく新しい基準を導入すること。
• 主成分に対する類似性に基づく、主変数の新しいクラスタリング手法（縦方向クラスタリングと呼ぶ）を提案すること。
• PCA内に埋め込まれたテンソル演算を特定し、多変量データの構造的性質としてのデータの異方性の概念を導入すること。
• 実測データ（測定された変数）と仮想的データ（回転された空間における変数および成分の幾何的表現）を区別すること。

提案手法

• 標準化された主変数を、主成分軸に沿った直交する成分にベクトル分解し、相関係数をそのベクトルの射影として表現する。
• 一般化されたピタゴラスの定理を用いて、各主変数の分散を、各主成分によって説明される成分に分解する。
• 各主変数の再構築に最低限必要な水準を満たすように、主成分の選択基準を新しい基準として提案する。
• 相関係数を類似度の指標として用い、主成分に対する主変数の類似度を計算することで、主変数の縦方向クラスタリングを導入する。
• 仮想的データを、固有ベクトル基底における回転座標系内での標準化された変数および成分の幾何的表現として定義し、実測データとは明確に区別する。
• PCAがテンソルデータマイニングの一部であることを特定し、座標系の回転と分散の分布から、データの異方性が構造的性質として顕在することを示す。

実験結果

リサーチクエスチョン

• RQ1 決定係数はPCAの文脈においてどのように幾何学的に解釈可能であり、変数間の類似性に関する何を明らかにするか？
• RQ2 主変数の分散を主成分軸に沿った直交成分に意味的に分解することは可能か？ その場合、解釈にどのような含意があるか？
• RQ3 仮想的データ空間はPCAの結果の解釈性をどのように向上させるか？
• RQ4 主変数と主成分の類似度は、点のクラスタリングではなく、変数のクラスタリング（縦方向クラスタリング）を可能にするために、どのように定量化できるか？
• RQ5 PCAはどのようにしてデータの異方性を明らかにし、それがテンソル演算およびデータ構造とどのように関係するか？

主な発見

• 2つの相関のある変数間の決定係数は、仮想的データ空間内でのそれらのベクトル表現のなす角のコサインに一致し、類似度を定量化する。
• 各標準化された主変数は、主成分軸に沿った直交成分に分解可能であり、その二乗相関係数がこれらの成分の分散を表す。
• 提案された再構築に基づく主成分選択基準により、各主変数が十分な精度で再構築可能となり、解釈性と実用性が向上する。
• 主成分に対する類似度に基づく主変数の縦方向クラスタリングは実現可能であり、従来のデータポイントの横方向クラスタリングとは明確に異なる。
• PCAは正式にテンソルデータマイニングの一部として位置づけられ、座標系の回転と分散の分布から、データの異方性が構造的性質として顕在する。
• 固有ベクトル基底における幾何的構造（仮想的データ表現）は、元の実測データとは別個の視点を提供し、PCAの結果の解釈に新たなレンズを提供する。