[論文レビュー] Using Embeddings to Correct for Unobserved Confounding in Networks

Victor Veitch, Zhaoran Wang+1 more|arXiv (Cornell University)|Feb 11, 2019

Advanced Causal Inference Techniques参考文献 48被引用数 21

ひとこと要約

本稿では、ネットワーク埋め込みを潜在的交絡要因の代理として活用することで、観察されない交絡要因が存在するネットワークにおける因果推論のための新規手法を提案する。治療とアウトカムの予測を、埋め込みを用いた半教師付き学習問題として定式化し、弱い条件下でも有効な因果推定を実現し、特に交絡が部分的に外生的である状況において、ベースラインを上回る性能を示す半教師付き実験で検証されている。

ABSTRACT

We consider causal inference in the presence of unobserved confounding. We study the case where a proxy is available for the unobserved confounding in the form of a network connecting the units. For example, the link structure of a social network carries information about its members. We show how to effectively use the proxy to do causal inference. The main idea is to reduce the causal estimation problem to a semi-supervised prediction of both the treatments and outcomes. Networks admit high-quality embedding models that can be used for this semi-supervised prediction. We show that the method yields valid inferences under suitable (weak) conditions on the quality of the predictive model. We validate the method with experiments on a semi-synthetic social network dataset. Code is available at github.com/vveitch/causal-network-embeddings.

研究の動機と目的

• 観察されない交絡要因が治療とアウトカムに影響を与えるネットワークにおける因果推定を解決すること、特に明確な生成モデルが存在しない状況を想定する。
• パラメトリックな強い仮定を避けるために、ネットワーク埋め込みを潜在的交絡要因の代理として用いる手法を開発すること。
• 埋め込みを用いて因果推定問題を半教師付き予測タスクに還元し、真の交絡要因分布の完全な知識がなくても、頑健な推定を可能にすること。
• 半教師付きのソーシャルネットワークデータセット上で、平均処置効果の推定精度を向上させることを実証的に検証すること。

提案手法

• 本手法は、因果推定を半教師付き予測問題として扱い、ネットワーク構造から導出されたノード埋め込みを用いて、治療とアウトカムを同時に予測する。
• 深層学習に基づくネットワーク埋め込みモデル（例：node2vec、DeepWalk）を用いて、構造的および関係的情報を捉える低次元表現を生成する。
• 埋め込みを治療およびアウトカムの予測モデルの特徴量として用い、最終的な因果効果は、TMLE や逆確率重み付けなどの二重ロバスト推定器により推定する。
• 埋め込みモデルが治療およびアウトカムの交絡要因関連成分を強く予測できると仮定するが、モデルが生成的である必要はない。
• 埋め込みモデルの予測性能に関する弱い条件下で、非 i.i.d. ネットワークデータに対してもロバストであることを示す。
• 二段階推定やパラメトリックモデルに依存しない、エンドツーエンドで埋め込みとアウトカム・治療予測ヘッドを同時に学習する単一段階手順を提案する。

実験結果

リサーチクエスチョン

• RQ1 生成モデルが存在しない状況において、ネットワーク埋め込みは、観察されない交絡要因の有効な代理として機能するか？
• RQ2 観察されない交絡要因が存在する状況で、治療およびアウトカムの両方を埋め込みで予測することで、標準的手法に比べて因果効果推定が改善されるか？
• RQ3 ネットワーク構造によって捉えきれない外生的成分を含む交絡に対して、本手法はどの程度ロバストか？
• RQ4 半教師付きネットワークデータにおいて、本手法の単一段階埋め込みベースのアプローチは、二段階またはパラメトリックベースラインに比べてどの程度の性能を示すか？
• RQ5 本手法はどのような条件下で有効な因果推定を実現するのか？また、有限標本における二重ロバスト推定器と比較してどうなるか？

主な発見

• 提案手法の埋め込みベースのアプローチは、すべてのシミュレーション設定において、調整なし、パラメトリック、二段階ベースラインを著しく上回る平均処置効果（ATE）推定を達成した。
• 低交絡（low confounding）および高交絡（high confounding）の両状況において、単一段階埋め込み推定器（$\hat{\psi}^{\mathrm{A}}_{n}$）は、それぞれ 1.24 ± 0.04 および 3.40 ± 0.04（低）、1.09 ± 0.02 および 2.03 ± 0.07（高）の ATE 推定値を達成し、すべてのベースラインを上回った。
• 交絡に外生的成分（p > 0）が含まれる場合、条件付きアウトカムのみの推定器が最も優れた性能を示し、交絡が完全にネットワーク構造によって記述されない場合には、埋め込みベースの代理変数法に限界があることが示唆された。
• 外生的交絡が存在しない場合（p = 0）、ロバストな TMLE 推定器が最も優れた性能を示し、理論的ロバストネスが仮定のもとで妥当であることを裏付けた。
• ネットワークがすべての交絡要因を完全に捉えていなくても、本手法は有効であることが示され、部分的な交絡要因の観測が可能な現実的状況における実用的価値を示した。
• 実証的結果から、ネットワーク調整は一貫して推定精度を向上させ、埋め込みベースのアプローチはパラメトリックおよび二段階手法よりも低い平均二乗誤差を達成した。