[論文レビュー] Sparse Additive Functional and Kernel CCA

Sivaraman Balakrishnan, Kriti Puniyani+1 more|arXiv (Cornell University)|Jun 18, 2012

Gene expression and cancer classification参考文献 19被引用数 11

ひとこと要約

本稿では、非線形相関を高次元ゲノムデータで捉えるために、加法的およびカーネルベースのモデルを用いた2つの高次元非パラメトリックCCA手法—スパース加法的関数型CCAとカーネルCCA—を提案する。著者は理論的保証を伴う推定手順を提案し、シミュレーションおよび実際のゲノムデータセットにおいて、古典的およびスパース線形CCAと比較して非線形関係の検出において優れた性能を示す。

ABSTRACT

Canonical Correlation Analysis (CCA) is a classical tool for finding correlations among the components of two random vectors. In recent years, CCA has been widely applied to the analysis of genomic data, where it is common for researchers to perform multiple assays on a single set of patient samples. Recent work has proposed sparse variants of CCA to address the high dimensionality of such data. However, classical and sparse CCA are based on linear models, and are thus limited in their ability to find general correlations. In this paper, we present two approaches to high-dimensional nonparametric CCA, building on recent developments in high-dimensional nonparametric regression. We present estimation procedures for both approaches, and analyze their theoretical properties in the high-dimensional setting. We demonstrate the effectiveness of these procedures in discovering nonlinear correlations via extensive simulations, as well as through experiments with genomic data.

研究の動機と目的

• 古典的およびスパース線形CCAが高次元データにおける非線形相関を捉えることの限界を解決すること。
• CCAを線形関係を超えて、複雑な非線形依存関係をモデル化できる非パラメトリックCCA手法を開発すること。
• 限られたサンプルサイズの高次元設定における推定手順の理論的分析を提供すること。
• シミュレーションおよび実際のゲノムデータセットにおいて、非線形相関の検出において改善された性能を示すこと。
• 高次元確率的ベクトル間の機能的関係を解釈可能でスパースな表現で可能にすること。

提案手法

• 入力変数の1変数関数の和として主変量を表現する加法的モデルを用いたスパース加法的関数型CCAを提案する。
• 関数的係数に対するL1ペナルティを用いて正則化し、スパarsityを誘導し、解釈可能性を向上させる。
• 再生核ヒルバート空間（RKHS）を用いたカーネルベースのCCAアプローチを定式化し、非パラメトリックに非線形関係をモデル化する。
• スパarsityおよび非パラメトリック平滑性制約の下で、同時に主方向を推定する最適化手順を開発する。
• 高次元性の下で、成分関数およびカーネル作用素を推定するための高次元非パラメトリック回帰技術を用いる。
• 適切な正則性およびスパarsity条件の下で、両手法の推定の一貫性および収束速度を確立する。

実験結果

リサーチクエスチョン

• RQ1 非パラメトリックCCA手法は、線形CCAが失敗する高次元データにおいて非線形相関を検出できるか？
• RQ2 スパース加法的およびカーネルベースのCCA手法は、古典的およびスパース線形CCAと比較して、相関検出および変数選択の観点でどのように異なるか？
• RQ3 高次元でサンプルサイズが小さい設定における、提案手法の推定子の理論的性質は何か？
• RQ4 提案手法は、複雑な非線形依存関係を捉えながら、ゲノムデータにおける関連変数を効果的に同定できるか？
• RQ5 モデルの誤指定および高次元ノイズに対して、これらの手法はどれほど頑健か？

主な発見

• 提案されたスパース加法的関数型CCAおよびカーネルCCA手法は、線形CCAが失敗する高次元データにおいて非線形相関を効果的に検出できた。
• シミュレーションでは、両手法が高次元下で非線形関係を同定する際、古典的およびスパース線形CCAを著しく上回ることが示された。
• 両手法は、スパarsityおよび平滑性パラメータに依存する収束速度を達成する一貫性のある主方向推定を実現した。
• ゲノムデータにおける実験的結果は、線形モデルでは捉えきれない意味のある生物学的関係を同定できることを示した。
• 理論的分析により、適切な正則性およびスパarsity条件の下で、両手法が高次元設定において一貫性を示すことが確認された。
• L1ペナルティによるスパarsity誘導により、最も関連性の高い入力変数のみを強調する解釈可能な主変量が得られた。