[論文レビュー] Causal Inference Using Tractable Circuits

Adnan Darwiche|arXiv (Cornell University)|Feb 7, 2022

Bayesian Modeling and Causal Inference被引用数 6

ひとこと要約

本稿では、非パrametricな構造的因果モデル（SCM）を、トレーサブルな算術回路にコンパイルすることで、トレーサブルな因果推論を実現する手法を提案する。この手法は、因果グラフの木幅が大きくても線形時間の推論を可能にする。主な貢献は、標準の木幅が無限大である場合でも有界に保てる新たな複雑度測度「因果的木幅（causal treewidth）」の導入であり、これにより回路サイズが指数関数的に削減され、スケーラブルでパrameter推定に配慮した因果的推論が可能になる。

ABSTRACT

The aim of this paper is to discuss a recent result which shows that probabilistic inference in the presence of (unknown) causal mechanisms can be tractable for models that have traditionally been viewed as intractable. This result was reported recently to facilitate model-based supervised learning but it can be interpreted in a causality context as follows. One can compile a non-parametric causal graph into an arithmetic circuit that supports inference in time linear in the circuit size. The circuit is also non-parametric so it can be used to estimate parameters from data and to further reason (in linear time) about the causal graph parametrized by these estimates. Moreover, the circuit size can sometimes be bounded even when the treewidth of the causal graph is not, leading to tractable inference on models that have been deemed intractable previously. This has been enabled by a new technique that can exploit causal mechanisms computationally but without needing to know their identities (the classical setup in causal inference). Our goal is to provide a causality-oriented exposure to these new results and to speculate on how they may potentially contribute to more scalable and versatile causal inference.

研究の動機と目的

• 高木幅を持つモデルにおける効率的でスケーラブルな因果推論を可能にすること。従来、このようなモデルは扱いにくかった。
• 関数形の知識がなくても因果的メカニズムを計算的に活用できる手法を開発し、古典的な因果推論の仮定と整合させること。
• 標準の木幅が無限大であっても有界に保てる新たな複雑度測度「因果的木幅」を導入し、より小さな回路を実現すること。
• コンパイルされた回路が、データからのパラメータ推定と、得られた因果モデル上の線形時間推論を両方サポートすることを示すこと。
• 因果AI分野における広範な採用と統合を促進するため、回路ベースの推論技術を因果的視点から解説すること。

提案手法

• トレーサブルな算術回路に非パラメトリックな構造的因果モデル（SCM）をコンパイルし、線形時間推論を可能にする。
• 文献[15]の新しい回路コンパイルアルゴリズムを用い、関数的依存関係（因果的メカニズム）を識別せずとも利用可能であり、パラメータが未知であってもコンパイルが可能になる。
• メカニズムの選択的複製と消去順序の最適化により、回路サイズを削減する「スリム化されたジョインツリー（thinned jointree）」構築技術を適用する。
• 「因果的木幅」——任意のスリム化されたジョインツリーの最小幅——を新たな複雑度指標として導入し、標準の木幅を支配し、標準の木幅が無限大であっても有界に保てる。
• メカニズムの複製、ジョインツリー構築、スリム化のためのヒューリスティクスを用い、回路サイズを最小化。ベンチマークでの実験的検証を実施。
• クロスレイヤー推論をサポート：データからのパラメータ推定と、線形時間での因果的クエリ（例：do計算、反実仮想）を、コンパイル済み回路上で実行可能。

実験結果

リサーチクエスチョン

• RQ1 因果的メカニズムの関数形を知らない状態でも、それらを活用することで高木幅を持つモデルにおける因果推論をトレーサブルに可能にすることができるか？
• RQ2 標準の木幅が無限大であっても有界に保てる新たな複雑度測度「因果的木幅」を定義できるか？
• RQ3 非パラメトリックな因果グラフから、パラメータ推定と線形時間推論を両方可能にする算術回路をコンパイルできるか？
• RQ4 未知の因果的メカニズムを伴う状況下で、メカニズムの複製とジョインツリーのスリム化により、回路サイズをどの程度削減できるか？
• RQ5 このアプローチにより、従来は処理不能とされていたモデルにおいても、スケーラブルで多様な因果的推論が可能になるか？

主な発見

• 因果グラフの因果的木幅は、常にその木幅以下の値をとる。これにより、より良い複雑度の上限を理論的に確立できる。
• 変数数が $ n^2 + 2n + 1 $ 個で、木幅が $ n+1 $、因果的木幅が $ 2 $ であるような因果グラフの族が存在し、回路サイズの指数的削減の可能性を示している。
• 追加の辺を含むこの族の変種では、木幅は $ heta(n) $ のままであるが、因果的木幅は $ 4 $ に有界である。これは、高木幅であっても小さな回路が構築可能であることを示している。
• 変数 $ X_1 $ が $ Z_{nn} $ に与える因果効果には、指数的和を持つバックドア式が存在するが、対応する回路は $ O(n^2) $ のサイズにコンパイル可能であり、線形時間推論が可能である。
• 提案手法により、従来の変数消去法と比較して、特に高木幅だが低因果的木幅のモデルでは、回路サイズが指数関数的に削減される。
• 本手法は、データからのパラメータ推定と、得られた因果モデル上の効率的推論を両方サポートし、エンドツーエンドのトレーサブルな因果的推論を実現する。