[論文レビュー] DeepMed: Semiparametric Causal Mediation Analysis with Debiased Deep Learning

Siqi Xu, Lin Liu+1 more|arXiv (Cornell University)|Oct 10, 2022

Bayesian Modeling and Causal Inference被引用数 7

ひとこと要約

DeepMedは、自然直接効果（NDE）および間接効果（NIE）の効率的影響関数におけるノイズ関数を推定するために、デバイアス付き深層ニューラルネットワーク（DNN）を用いた、深層学習に基づく半パラメトリックな因果中介分析手法を提案する。本手法は、スパースなDNNアーキテクチャを要件とせず、低次元構造に適応可能であり、DNNベースの因果推論における理論的・実践的進展をもたらす。

ABSTRACT

Causal mediation analysis can unpack the black box of causality and is therefore a powerful tool for disentangling causal pathways in biomedical and social sciences, and also for evaluating machine learning fairness. To reduce bias for estimating Natural Direct and Indirect Effects in mediation analysis, we propose a new method called DeepMed that uses deep neural networks (DNNs) to cross-fit the infinite-dimensional nuisance functions in the efficient influence functions. We obtain novel theoretical results that our DeepMed method (1) can achieve semiparametric efficiency bound without imposing sparsity constraints on the DNN architecture and (2) can adapt to certain low dimensional structures of the nuisance functions, significantly advancing the existing literature on DNN-based semiparametric causal inference. Extensive synthetic experiments are conducted to support our findings and also expose the gap between theory and practice. As a proof of concept, we apply DeepMed to analyze two real datasets on machine learning fairness and reach conclusions consistent with previous findings.

研究の動機と目的

• DNNベースの因果中介分析における理論的保証の欠如、特に複雑で高次元なノイズ関数に対してのギャップを埋める。
• 実務で一般的なスパースなDNNアーキテクチャを課さずに、半パラメトリック効率性を達成する手法を開発すること。
• 理論と実践のギャップを埋えるために、ほぼ無限次元のノイズ関数を模擬する合成実験を設計すること。
• 再現可能な因果中介分析を実現するための実用的で使いやすいRパッケージを提供すること。

提案手法

• DeepMedは、全結合でReLU活性化関数を用いたフィードフォワードDNNを用いて、ノイズ関数（傾向スコア、アウトカム回帰、中間変数回帰）をV-foldクロスフィット法で推定する。
• NDE/NIEの効率的影響関数（EIF）の多重ロバスト性を活用し、少なくとも1つのノイズ関数が一貫して推定されればバイアスキャンセレーションが達成される。
• EIFに基づくデバイアス付き推定量を採用することで、弱い正則性条件のもとで漸近正規性と半パラメトリック効率性を保証する。
• 標本分割を用いることでドンスカー型の経験プロセス仮定を回避し、有限標本性能を向上させる。
• NDE/NIEの特殊なケースとして全効果推定に拡張可能であり、混合バイアス構造を持つ機能的汎関数に対しても適用可能である。
• 再現可能な実装を支援するRパッケージを提供し、公平性およびバイオメディスン分野における実世界応用を支援する。

実験結果

リサーチクエスチョン

• RQ1 DNNベースの因果中介推定量は、スパースなDNNアーキテクチャを要件とせず、半パラメトリック効率性を達成できるか？
• RQ2 真の関数がスパースでない高次元ノイズ関数を推定する際、DNNはどのように性能を発揮するか？
• RQ3 DNNベース因果推論の理論的保証が、現実的で複雑なシミュレーション設定でも成立するか？
• RQ4 DeepMedは、アルゴリズムによる再犯予測の公平性応用において、既知の知見を回復できるか？
• RQ5 ノイズ関数の低次元構造に、この手法はどの程度適応可能で、次元の呪いを回避できるか？

主な発見

• DeepMedは、DNNアーキテクチャにスパース性制約を課すことなく、NDE/NIE推定における半パラメトリック効率性の上限に到達する。
• ノイズ関数の低次元構造に適応可能であり、推定誤差を顕著に低減し、次元の呪いを緩和する。
• ほぼ無限次元のノイズ関数を有する合成実験により、理論的保証が複雑で高次元な設定でも成立することが示された。
• 弱い正則性条件のもとで漸近正規性を維持し、有効な推論が可能であり、収束速度はDNN推定誤差に支配される。
• 実世界の公平性応用（アルゴリズムによる再犯予測）において、従来研究と整合する結論を回復でき、実用的妥当性が裏付けられた。
• Rパッケージの実装により再現性が確保され、バイオメディスンおよび公平性研究分野への導入を容易にする。