[論文レビュー] Decomposing feature-level variation with Covariate Gaussian Process Latent Variable Models

Kaspar Märtens, Kieran R. Campbell+1 more|Research Explorer (The University of Manchester)|Oct 16, 2018

Gaussian Processes and Bayesian Inference被引用数 9

ひとこと要約

本稿では、高次元データの特徴レベルのばらつきを潜在変数、観測された共変量、およびそれらの非線形相互作用に分解する、新しい確率的枠組みである共変量ガウス過程潜在変数モデル（c-GPLVM）を提案する。構造的カーネル分解をガウス過程フレームワークに統合することにより、c-GPLVMは解釈可能でスケーラブルな次元削減を可能にし、潜在的構造と外部共変量によって説明される分散を明示的に分離する。これは、遺伝子発現データおよび生存時間データにおいて実証された。

ABSTRACT

The interpretation of complex high-dimensional data typically requires the use of dimensionality reduction techniques to extract explanatory low-dimensional representations. However, in many real-world problems these representations may not be sufficient to aid interpretation on their own, and it would be desirable to interpret the model in terms of the original features themselves. Our goal is to characterise how feature-level variation depends on latent low-dimensional representations, external covariates, and non-linear interactions between the two. In this paper, we propose to achieve this through a structured kernel decomposition in a hybrid Gaussian Process model which we call the Covariate Gaussian Process Latent Variable Model (c-GPLVM). We demonstrate the utility of our model on simulated examples and applications in disease progression modelling from high-dimensional gene expression data in the presence of additional phenotypes. In each setting we show how the c-GPLVM can extract low-dimensional structures from high-dimensional data sets whilst allowing a breakdown of feature-level variability that is not present in other commonly used dimensionality reduction approaches.

研究の動機と目的

• 特徴レベルのばらつきが潜在的な低次元構造と観測された共変量の両方に依存する仕組みを明示的にモデル化する次元削減モデルの開発。
• 高次元データの分散を、潜在変数、共変量、およびそれらの非線形的相互作用への寄与に解釈可能に分解すること。
• 標準的なGPLVMが、潜在構造を学習する際に交絡共変量効果を考慮しないという限界を克服すること。
• 疾患進行モデリングのような複雑なデータにおいて、遺伝子特異的な反応が潜在的要因と共変量要因にどのように影響を受けるかを理解することが重要な分野における発見的フレームワークを提供すること。
• 解釈可能性を保ちつつ、共変量情報を統合する形でGPLVMを拡張し、特徴レベルのばらつきの後処理分析を可能にするフレームワークを提供すること。

提案手法

• c-GPLVMは、潜在的・共変量空間へのマッピングを加法的および相互作用的成分に分解する構造的カーネルを備えたハイブリッドガウス過程モデルを用いる。
• 各特徴の発現を、潜在変数zと共変量xの関数としてガウス過程でモデル化し、加法的および相互作用的効果を明示的に分離するカーネルを採用する。
• 潜在座標の事後分布p(z|y,x)と特徴固有のマッピングp(f^(j)|y,x,z)を同時に推論することで、特徴レベルでの分散分解を可能にする。
• 主なイノベーションは、非線形的かつ非パrametricな方法で、z、x、およびz×x相互作用からの分散寄与を分離可能な構造的カーネル分解の使用である。
• スケーラブルな推論技術、特にスパースGP近似を用いて、遺伝子発現プロファイルのような大規模な高次元データセットを処理する。
• 本フレームワークは、発見的応用および交絡共変量（例：バッチ効果や臨床データにおける生存時間）の補正を両立可能である。

実験結果

リサーチクエスチョン

• RQ1 高次元データにおける特徴レベルのばらつきを、潜在変数、観測共変量、およびそれらの非線形的相互作用への寄与にどのように分解できるか。
• RQ2 共変量に調整された潜在表現を学習することで、異なる共変量値の下でも共通の構造を明らかにできるか。この際、解釈可能性を保ったまま。
• RQ3 c-GPLVMは、実世界の生物学的データにおける複雑な非線形依存関係を、標準的なGPLVMおよび監視付き拡張手法よりもどれほど効果的に捉えることができるか。
• RQ4 がん進行モデリングにおいて、発現が潜在的進行度、生存時間、またはそれらの相互作用によって駆動されているとされる遺伝子をどのように特定できるか。
• RQ5 生存時間などの右側打ち切り共変量を、整合的な確率的枠組み内で効果的に扱えるか。

主な発見

• c-GPLVMは、生存時間などの連続的共変量によって交絡される状況下でも、高次元遺伝子発現データにおける潜在的構造を効果的に捉え、特徴レベルのばらつきをモデル化する点で標準的なGPLVMを上回った。
• シミュレーションデータにおいて、c-GPLVMは、潜在的次元と共変量次元の両方における加法的および相互作用的効果への真の分散分解を正確に回復した。
• TCGA乳がんデータにおいて、c-GPLVMはTSPAN1という遺伝子の発現が潜在的進行度座標に沿って上昇することを同定し、生存状況とは独立して疾患進行に関与する可能性を示唆した。
• KRT23については、生存共変量に著しい加法的効果が認められ、長期生存者では発現が高かった。これは、保護的役割を果たす可能性を示唆している。
• LPLに関しては、非線形的複雑な相互作用が検出された。特定の潜在座標範囲では、高発現が生存率の低下に関連しており、腫瘍の悪性度に文脈依存の役割を果たす可能性がある。
• c-GPLVMのカーネル分解により、後処理分析やモデルの再調整を要せず、直接に3つの異なる遺伝子行動タイプ（潜在的要因のみ、共変量の加法的効果、相互作用駆動）を同定可能であった。