[論文レビュー] Estimation of linear, non-gaussian causal models in the presence of confounding latent variables

Patrik O. Hoyer, Shohei Shimizu+1 more|ArXiv.org|Mar 9, 2006

Blind Source Separation Techniques参考文献 9被引用数 13

ひとこと要約

本稿では、過剰定義型独立成分分析（ICA）と構造的制約を活用することで、観測されない交絡変数が存在する状況下でも線形で非ガウス型の因果モデルを推定する手法を提案する。真の因果構造は潜在的交絡要因が存在する場合に一意に特定できないが、データを説明できる観測的にも因果的にも同等のモデルは有限個に限られることを示し、シミュレーションによりICAに基づく再サンプリングとモデル推論の実用的妥当性を確認した。

ABSTRACT

The estimation of linear causal models (also known as structural equation models) from data is a well-known problem which has received much attention in the past. Most previous work has, however, made an explicit or implicit assumption of gaussianity, limiting the identifiability of the models. We have recently shown (Shimizu et al, 2005; Hoyer et al, 2006) that for non-gaussian distributions the full causal model can be estimated in the no hidden variables case. In this contribution, we discuss the estimation of the model when confounding latent variables are present. Although in this case uniqueness is no longer guaranteed, there is at most a finite set of models which can fit the data. We develop an algorithm for estimating this set, and describe numerical simulations which confirm the theoretical arguments and demonstrate the practical viability of the approach. Full Matlab code is provided for all simulations.

研究の動機と目的

• 観測されない交絡変数が存在する線形非ガウス型モデルにおける因果発見の課題に対処すること。
• 潜在的交絡要因のない従来の同定可能なLiNGAMモデルの研究を、隠れた共通原因が存在する状況に拡張すること。
• 観測データと整合する観測的にも因果的にも同等のモデルの集合を推定する実用的手法を開発すること。
• シミュレーションと小規模データのデモを通じてアプローチを検証し、推定誤差に対して頑健であることを示すこと。
• 実世界の観測データに潜在的交絡要因が存在する場合の因果発見を可能にする将来のソフトウェアツールの基盤を築くこと。

提案手法

• データ生成過程を、観測されない交絡変数を含む線形で非ガウス型の非巡回構造方程式モデル（LiNGAM）としてモデル化する。
• 観測変数と潜在変数の間の線形関係を表す基底行列を、過剰定義型独立成分分析（ICA）を用いて推定する。
• 再サンプリングに基づく推論手順を適用し、データ生成過程と観測的にも因果的にも同等のすべての可能なモデルを同定する。
• 標準形表現を用いて、観測的に同等の構造を簡略化・比較し、重複を低減する。
• 安定性と忠実性の仮定を活用し、因果効果が相殺されず、原則として同定可能であることを保証する。
• 概念実証のため、分布が既知のノイズ分布を仮定し、ICA推定に混合正規分布フレームワークを適用する。

実験結果

リサーチクエスチョン

• RQ1 交絡する潜在変数が存在する場合に、線形非ガウス型因果モデルを推定できるか？
• RQ2 潜在的交絡要因が存在する状況で、同じ観測データを説明できる観測的にも因果的にも同等のモデルの集合は何か？
• RQ3 ICA基底行列の推定誤差に対して、推定手法はどれほど頑健か？
• RQ4 観測変数間に条件付き独立性が存在しないデータにおいて、この手法は正しい因果構造を同定できるか？
• RQ5 現在のICAアルゴリズムは、高次元の潜在変数モデルにおける過剰定義基底の推定において、どのような実用的限界を有するか？

主な発見

• 潜在的交絡要因が存在する場合、真の因果モデルは一意に特定できないが、データを説明できる観測的にも因果的にも同等のモデルは有限個に限られる。
• シミュレーションにより、提案された再サンプリングに基づく推論手法が、ノイズの多いICA推定に対しても、真の生成モデルに因果的に近いモデルを効果的に回復できることを示した。
• 小規模データ例では、実際に直接的な接続がない場合に、観測変数間の接続なしを正しく同定した。
• 標準的な制約に基づく手法が失敗するケースである、観測変数間に条件付き独立性が存在しないデータにおいても、本手法は正しいネットワーク構造を同定できた。
• 推定誤差がゼロ係数の分類を誤る場合、手法は失敗し、制約ベースのアルゴリズムと同様にICAの精度に敏感であることが示された。
• 本フレームワークは、特にデータが独立部分空間（ISA）構造に従う場合に、小規模から中規模のモデルに対して実用的である。この場合、部分空間内で局所的なICA推定が可能になる。