[論文レビュー] Smooth, identifiable supermodels of discrete DAG models with latent variables

Robin J. Evans, Thomas S. Richardson|arXiv (Cornell University)|Nov 20, 2015

Bayesian Modeling and Causal Inference参考文献 15被引用数 8

ひとこと要約

本稿では、潜在変数を伴うDAGの離散的ネスト型マルコフモデルの滑らかで識別可能なパrameterizationを提示する。従来の潜在変数モデルが抱える不規則性や識別不能性を回避する。do計算に基づく因果的に解釈可能な完全に識別可能なパrameterを用いることで、モデルは次元が既知の曲がり型指数型分布族であることが示され、潜在変数に関するパラメトリックな仮定なしに標準的な統計的推論および最尤推定が可能になる。

ABSTRACT

We provide a parameterization of the discrete nested Markov model, which is a supermodel that approximates DAG models (Bayesian network models) with latent variables. Such models are widely used in causal inference and machine learning. We explicitly evaluate their dimension, show that they are curved exponential families of distributions, and fit them to data. The parameterization avoids the irregularities and unidentifiability of latent variable models. The parameters used are all fully identifiable and causally-interpretable quantities.

研究の動機と目的

• DAGにおける標準的潜在変数モデルの非正則性と識別不能性を解消すること。
• 観測不能な変数に関するパラメトリックな仮定を回避するパrameterizationの開発。
• すべてのモデルパラメータが識別可能で因果的に解釈可能であることを保証すること。
• 離散的ネスト型マルコフモデルが次元が既知の曲がり型指数型分布族であることを確立すること。
• 尤度比検定や最尤推定を含む標準的な統計的推論手順がこのモデルに適用可能であることを実現すること。

提案手法

• 非循環的有向混合グラフ（ADMG）に基づく再帰的因子分解を用いて、条件付き独立性および分布的制約を表現する。
• do計算から導かれる介入分布（例：P(Y=0|do(X=x,M=m))）として識別可能なパラメータを定義する。
• 制約を満たす正の分布から識別可能なパラメータへの滑らかで全単射の写像を用い、統計的正則性を保証する。
• 再帰的因子分解の性質を応用して、モデルの次元をd(G) = Σ|˜XH|·|XT|（ADMGの各成分Hについて）として導出する。
• EvansとRichardson（2010）が開発したアルゴリズムを適応し、パラメータ写像を用いて数値的フィッティングを実施する。
• 尤度比統計量を用いた仮説検定を実施し、自由度がモデルの次元の差に等しいカイ二乗分布と比較する。

実験結果

リサーチクエスチョン

• RQ1 潜在変数を伴う離散的DAGのスーパーモデルを構築可能か。これにより、標準的潜在変数モデルの非正則性と識別不能性を回避できるか。
• RQ2 観測分布を完全に記述できる識別可能で因果的に解釈可能なパラメータが存在するか。
• RQ3 離散的ネスト型マルコフモデルが次元が既知の曲がり型指数型分布族であることが示せるか。
• RQ4 尤度比検定を含む標準的な統計的推論手順が、このモデルに適用可能か。
• RQ5 識別可能なパラメータと数値最適化を用いて、実世界のデータにこのモデルを効果的に適合できるか。

主な発見

• 離散的ネスト型マルコフモデルは、次元d(G) = Σ|˜XH|·|XT|の曲がり型指数型分布族であり、各ADMGについて明示的に計算可能である。
• 介入分布（例：P(Y=0|do(X=x,M=m))）を用いたパラメータ化において、モデルは滑らかで全単射であり、完全な識別性が保証される。
• 潜在変数の状態空間に関する仮定を回避するため、非パラメトリックであり、観測されない交絡要因に対してもロバストである。
• ウィスコンシン縦断研究のデータにおいて、図8(b)の構造を持つモデルは、6自由度でdevianceが5.57であり、良好な適合が得られた。
• 推定された因果効果は、P(Y=1|do(X=1)) = 0.50（SE 0.018）およびP(Y=1|do(X=0)) = 0.36（SE 0.016）であり、高所得家族からの将来収入への強い因果効果が示された。
• 欠落した辺を含むモデル（例：図8(a)）は強く棄却され、devianceが2自由度で31.3であった。