[論文レビュー] GroupLiNGAM: Linear non-Gaussian acyclic models for sets of variables

Yoshinobu Kawahara, Kenneth A. Bollen+2 more|arXiv (Cornell University)|Jun 24, 2010

Bayesian Modeling and Causal Inference参考文献 14被引用数 12

ひとこと要約

本稿では、非ガウス的かつ非循環的なモデルとしてGroupLiNGAMを提案する。LiNGAMを拡張し、観測されない交絡要因を有する鎖グラフ（chain graphs）を扱えるようにし、部分集合と残差の独立性検定を通じて変数のグループ順序を同定する。この手法により、潜在的交絡要因を有する複雑なシステムにおける因果構造同定が可能となり、実世界のデータにおいて既存手法に比べてドメイン知識と整合性を保つ。

ABSTRACT

Finding the structure of a graphical model has been received much attention in many fields. Recently, it is reported that the non-Gaussianity of data enables us to identify the structure of a directed acyclic graph without any prior knowledge on the structure. In this paper, we propose a novel non-Gaussianity based algorithm for more general type of models; chain graphs. The algorithm finds an ordering of the disjoint subsets of variables by iteratively evaluating the independence between the variable subset and the residuals when the remaining variables are regressed on those. However, its computational cost grows exponentially according to the number of variables. Therefore, we further discuss an efficient approximate approach for applying the algorithm to large sized graphs. We illustrate the algorithm with artificial and real-world datasets.

研究の動機と目的

• LiNGAMが観測されない交絡要因を扱えないという制限を克服するため、鎖グラフに一般化すること。
• 事前知識がなくとも変数グループの順序を同定できる構造学習アルゴリズムの開発に、非ガウス性を活用すること。
• 近似探索戦略を導入することで、大規模なグラフに対してもスケーラブルな解決策を提供すること。
• 人工的および実世界のデータセットを用いた実験的検証により、ドメイン知識との整合性が向上することを示すこと。

提案手法

• 鎖グラフにおける互いに素な変数サブセットのための線形非ガウス的非循環モデルとしてGroupLiNGAMモデルを提案する。
• 外部要因が非ガウス的かつブロック間で独立であることを仮定したブロック構造誤差モデルを採用する。
• 他の変数をそのサブセットで回帰した残差とサブセットとの間の独立性検定を繰り返し行い、外生的グループを同定する反復的アルゴリズムを採用する。
• 隣接行列Bと混合行列Aに下ブロック下三角行列構造を適用することで、非循環性を保証する。
• 評価するサブセットの数を制限することで、指数的計算コストを低減する近似アプローチを導入する。
• グループ分割の停止基準を制御するチューニングパrameter δ を導入し、相互情報量推定にはk近傍法を用いる。

実験結果

リサーチクエスチョン

• RQ1 非ガウス性を活用することで、観測されない交絡要因を有する鎖グラフにおける因果構造を同定できるか？
• RQ2 LiNGAMフレームワークは、個々の変数ではなく変数の集合を扱えるようにどのように拡張できるか？
• RQ3 本手法は、実世界データにおいてDirectLiNGAM や ICA-LiNGAM といった既存アルゴリズムと比較して、どのような性能を示すか？
• RQ4 大規模グラフにおける正確なアルゴリズムの計算コストをどのように低減できるか？
• RQ5 交絡要因が存在する状況でも、本手法はドメイン知識と整合性のある順序を生成するか？

主な発見

• 実データセット（世代間職業移動）において、GroupLiNGAMはドメイン知識と整合する因果順序を的確に同定し、DirectLiNGAM や ICA-LiNGAM を上回った。
• 息子の収入（x₂）と兄弟数（x₆）の両方を含めた場合でも、GroupLiNGAMは解釈可能な順序を生成したが、他の手法は一貫性のないまたは不自然な因果方向を出力した。
• x₂ と x₆ を省いた場合、GroupLiNGAMは一貫した因果順序 {1,3} < {4,5} を得た。これは、父親の教育と職業が息子の結果に先行することを反映している。
• 本手法は、息子の教育（x₅）が息子の職業（x₄）に因果的に影響することを正しく同定したが、これはDirectLiNGAMでは見逃された因果方向であった。
• ICA-LiNGAMは誤って、息子の教育が父親の変数に因果的に影響すると推定しており、潜在的交絡要因の処理に失敗していることを示している。
• 近似アプローチにより大規模なグラフへの適用が可能になったが、その精度はチューニングパrameter δ と探索戦略に依存する。