[論文レビュー] High Dimensional Semiparametric Latent Graphical Model for Mixed Data

Jianqing Fan, Han Liu+2 more|arXiv (Cornell University)|Apr 29, 2014

Statistical Methods and Inference参考文献 50被引用数 4

ひとこと要約

本稿では、二値および離散変数がガウスコプシラ依存構造を持つ潜在連続変数から生じると仮定する、混合データ向けの高次元半パラメトリックな潜在ガウスコプシラモデルを提案する。ランクに基づく推定を用いることで、潜在変数が観測可能であるかのように、精度行列および固有ベクトル推定の最適収束速度を達成し、高次元設定下での一貫性のあるグラフ回復およびスパース主成分分析を可能にする。

ABSTRACT

Graphical models are commonly used tools for modeling multivariate random variables. While there exist many convenient multivariate distributions such as Gaussian distribution for continuous data, mixed data with the presence of discrete variables or a combination of both continuous and discrete variables poses new challenges in statistical modeling. In this paper, we propose a semiparametric model named latent Gaussian copula model for binary and mixed data. The observed binary data are assumed to be obtained by dichotomizing a latent variable satisfying the Gaussian copula distribution or the nonparanormal distribution. The latent Gaussian model with the assumption that the latent variables are multivariate Gaussian is a special case of the proposed model. A novel rank-based approach is proposed for both latent graph estimation and latent principal component analysis. Theoretically, the proposed methods achieve the same rates of convergence for both precision matrix estimation and eigenvector estimation, as if the latent variables were observed. Under similar conditions, the consistency of graph structure recovery and feature selection for leading eigenvectors is established. The performance of the proposed methods is numerically assessed through simulation studies, and the usage of our methods is illustrated by a genetic dataset.

研究の動機と目的

• 高次元グラフィカルモデルにおける混合データ（連続および離散変数）のモデリングの課題に対処すること。
• 離散変数をガウスコプシラ依存構造を持つ潜在連続変数の打ち切り版としてモデル化する半パラメトリックアプローチの開発。
• 潜在変数間の条件付き独立構造の一致した推定を可能にし、観測変数の依存関係よりも深い洞察を提供すること。
• 高次元かつサンプルサイズが小さい設定下で、潜在グラフ推定およびスパース主成分分析の理論的保証を確立すること。
• 潜在変数が直接観測可能であるかのように同じ収束速度を達成するランクに基づく推定手法の提供。

提案手法

• 観測された離散変数がガウスコプシラ構造を持つ潜在連続変数の閾値化によって生成される、潜在ガウスコプシラモデルを提唱する。
• マージナル分布のパラメトリック形を仮定せずに、ランクに基づく統計量を用いて潜在相関行列および精度行列を推定する。
• ケンダールのτを用いて潜在相関を近似し、ランクに基づくグラフィカルラassoを用いて潜在グラフを推定する。
• スパarsity仮定の下で、潜在共分散行列の主要固有ベクトルを推定するランクに基づくスパースPCA手法を開発する。
• 理論的分析により、精度行列および固有ベクトル推定器の収束速度が、潜在変数が完全に観測可能である場合に達成可能なものと一致することを示す。
• 集中不等式および行列摂動理論を用いて、グラフ構造回復および特徴選択の一致性を確立する。

実験結果

リサーチクエスチョン

• RQ1 半パラメトリックな潜在変数モデルは、高次元設定下で連続および離散の混合データタイプを効果的に処理できるか？
• RQ2 潜在変数が観測可能である場合に、ランクに基づく潜在相関推定がパラメトリック手法と同等の収束速度を達成できるか？
• RQ3 提案手法は、潜在変数間の真の条件付き独立構造（グラフ）を一貫して回復できるか？
• RQ4 スパarsity仮定下で、ランクに基づくスパースPCA手法が、真の主要固有ベクトルをどの程度回復できるか？
• RQ5 特に離散的またはカウントデータにおいて、ガウスコプシラ仮定からの逸脱に対して、この手法はどの程度頑健か？

主な発見

• 提案されたランクに基づく手法は、潜在変数が直接観測可能であるかのように、精度行列および固有ベクトル推定の収束速度を達成する。
• この手法は、高確率で潜在グラフ構造を一貫して回復し、主要固有ベクトルの正しい特徴選択を保証する。
• 潜在相関行列の推定誤差は、高確率で O(√(log d / n)) で有界であり、d は次元、n はサンプルサイズを表す。
• モデル選択の一貫性が達成される：真の精度行列のサポートが回復される確率は 1 - d⁻¹ よりも大きい。
• 理論的結果により、ランクに基づくアプローチが未知のマージナル分布に対して頑健であり、ややいなめの正則性条件の下で最適な収束速度を維持することが確認された。
• シミュレーションスタディおよび実際の遺伝子データセットの分析により、この手法の有限標本性能の高さと、高次元混合データ解析における実用的有用性が示された。